AIが子どもを傷つけるとき、誰が責任を負うのか

「自分の顔が、見知らぬ誰かのAIによって性的な画像に変えられていた」——それを知ったとき、被害者はまだ10代だった。

2026年3月17日、テネシー州の10代の若者3人が、イーロン・マスク率いるAI企業 xAI を相手取り、集団訴訟を提起しました。訴状によれば、同社のAIチャットボット「Grok」が、実在する未成年者の性的な画像・動画（CSAM：児童性的虐待素材）をAIで生成したとされています。原告のうち2人は現在も未成年、1人は訴訟対象となった出来事が起きた当時に未成年だった成人です。

「スパイシーモード」という選択

訴状の核心にあるのは、xAI が昨年導入した「スパイシーモード（Spicy Mode）」と呼ばれる機能です。これは通常のコンテンツフィルターを緩和し、より露骨な表現を可能にするオプションとして提供されました。原告側は、マスク氏をはじめとする xAI の経営幹部が、この機能を導入した時点で、Grokが未成年者のCSAMを生成し得ることを認識していたと主張しています。

原告の一人「ジェーン・ドウ1」の証言は特に重く受け止める必要があります。彼女は昨年12月、自分のAI生成による性的画像が存在することを知ったといいます。誰かが意図的に、あるいは無意識に、彼女の実在する情報をAIに入力した結果として生まれた画像です。

なぜ今、この訴訟が重要なのか

この訴訟は単なる一企業への法的請求ではありません。AIが「創造」できるものの範囲が急速に拡大する中で、誰がその結果に責任を負うのかという問いを、法廷という場に持ち込んだ点で注目に値します。

広告

広告掲載について

[email protected]

広告

アメリカでは、オンラインプラットフォームの免責を定める「通信品位法第230条」が長年、テック企業を利用者のコンテンツから守ってきました。しかし、AIが自ら生成したコンテンツに同条が適用されるかどうかは、法的にまだ決着がついていません。今回の訴訟は、その空白地帯に正面から挑むものです。

日本でも無関係ではありません。ソニーや任天堂など日本の大手企業が生成AIを自社サービスに組み込む動きを加速させる中、日本の法律や規制がこうした事態にどこまで対応できるかは未知数です。現行の児童ポルノ禁止法はAI生成コンテンツへの適用が曖昧な部分があり、法整備の遅れが指摘されています。

多様な視点から見る

xAI 側の立場から見れば、「スパイシーモード」はユーザーが自ら選択する機能であり、悪用は利用規約違反だという反論が予想されます。企業は「ツールを提供した側」であり、「使い方の責任はユーザーにある」という論理です。

一方、子どもの権利団体や研究者たちは、この論理に強く反発します。AIが実在する人物の顔や情報を組み合わせてCSAMを生成できる状態を「オプション」として提供すること自体が、倫理的・法的に問題だという立場です。被害者の視点に立てば、技術の「中立性」という主張は意味をなしません。

政策立案者にとっては、この訴訟は規制の必要性を示す事例となり得ます。EU（欧州連合）はすでにAI規制法（AI Act）を施行しており、高リスクAIへの厳格な要件を課しています。アメリカや日本がどのような規制の枠組みを構築するかが、今後問われることになります。

親や教育者の視点では、子どもがデジタル空間に存在するだけで——SNSに写真を投稿するだけで——こうした被害のリスクにさらされるという現実は、深刻な問いを突きつけます。