AIが子どもの写真を性的画像に変換——xAI訴訟が問うもの

卒業アルバムの写真が、見知らぬ誰かによって性的な画像に加工され、ネット上に拡散していた——。そんな悪夢が現実になった高校生が、今まさに法廷で声を上げています。

何が起きたのか

2026年3月、米カリフォルニア州連邦地方裁判所に、xAI（イーロン・マスク氏が設立したAI企業）に対する集団訴訟が提起されました。原告は匿名の3名で、うち2名は現在も未成年です。

訴状によると、3名の原告はいずれも、自身の実際の写真がxAIのAIモデル「Grok」によって性的な画像に加工されたと主張しています。原告の一人「ジェーン・ドウ1」は、高校の卒業式や文化祭の写真がGrokによって裸の画像に変換され、Discordのサーバー上で同じ学校の未成年者たちの性的画像とともに拡散していたことをInstagramの匿名の通報者から知らされました。残り2名は、捜査当局から自身の性的加工画像の存在を告げられました。

原告側の弁護士は、サードパーティのモバイルアプリがGrokのモデルを利用して画像を生成していたとしても、xAIのコードとサーバーを使用している以上、同社に責任があると主張しています。訴訟では、児童搾取防止や企業過失に関する複数の法律に基づく民事上のペナルティが求められています。

なぜxAIは問題視されるのか

ここで重要なのは、技術的な背景です。OpenAIやGoogle、Stability AIなど主要なAI企業は、実在する人物や未成年者を含む性的コンテンツの生成を防ぐための複数の技術的手法を採用しています。具体的には、学習データのフィルタリング、生成時のコンテンツ検出、特定の人物の顔認識を用いた制限などです。

広告

広告掲載について

[email protected]

広告

訴状は、xAIがこうした業界標準の安全対策を導入していなかったと主張しています。さらに注目すべきは、イーロン・マスク氏自身がGrokの性的コンテンツ生成能力や、実在人物を際どい衣装で描く機能を公に宣伝していたという事実で、この点も訴状に盛り込まれています。

AIの画像生成技術における原則として、モデルが実際の写真から裸や性的コンテンツを生成できる場合、それを子どもの写真に適用されることを技術的に防ぐことは極めて困難です。つまり、成人向けコンテンツの生成を許可した時点で、未成年者への悪用リスクは不可避的に生じるという構造的問題があります。

日本社会への問いかけ

この訴訟は、米国の話として片付けられるものではありません。日本でも、AIを使ったディープフェイクやフェイクポルノの被害は深刻化しており、2023年には不正競争防止法の改正によって性的ディープフェイク画像の作成・提供が規制されましたが、AIモデルを提供する企業の責任範囲については依然として曖昧な部分が残っています。

日本の若者の間でもGrokを含む画像生成AIは広く使われており、サードパーティアプリを経由した悪用のリスクは国内でも現実的な脅威です。また、日本企業が海外のAIモデルをAPIで利用してサービスを提供する場合、元のAI企業の安全対策の不備がそのまま日本のユーザーへのリスクにつながる可能性があります。

ソニーや任天堂のようなコンテンツ企業、あるいはAIを活用した教育サービスを展開する企業にとっても、利用するAIモデルの安全基準が問われる時代が来ています。「どのAIを使うか」は、もはや技術選択だけでなく、倫理的・法的リスク管理の問題でもあるのです。

規制の観点では、EUの「AI法（AI Act）」がAIシステムの安全基準を法的に義務付ける方向に動いている一方、日本はまだガイドライン中心のアプローチをとっています。今回のような訴訟が米国で積み重なることで、グローバルなAI規制の基準が形成されていく可能性があり、日本の政策立案者にとっても注目すべき動向です。