AIが生成した性的画像、欧州裁判所がGrokに「待った」

アムステルダム地裁がイーロン・マスク氏のAIチャットボット「Grok」に対し、非同意の性的AI生成画像の禁止命令を発令。1日あたり約1,700万円の罰金も科す可能性。AI規制の新たな転換点となるか。

約300万枚。これは、2025年12月29日から2026年1月9日のわずか12日間に、AIチャットボット「Grok」が生成したとされる性的画像の推定枚数です。そのうち2万3,000枚以上が、子どもを描写していたとされています。

欧州初の「Grok禁止令」が下された

2026年3月27日、オランダのアムステルダム地方裁判所は、イーロン・マスク氏が率いるAI企業 xAI に対し、ヨーロッパ初となる法的禁止命令を発令しました。内容は明確です。「本人の明示的な同意なく、部分的または全体的に裸にされた性的画像を生成・配布してはならない」。この命令は成人だけでなく、児童性的虐待素材（CSAM）にも及びます。

さらに、プラットフォーム「X」（旧Twitter）においても、Grokの機能提供を欧州地域で禁じるという踏み込んだ内容となっています。xAI が命令に従わない場合、1日あたり10万ユーロ（約1,700万円）の罰金が科され、上限は1,000万ユーロ（約17億円）に設定されています。

この訴訟を起こしたのは、オランダの非営利団体「Offlimits」です。子どもや若者へのオンライン性的虐待と闘う組織で、代表のロバート・ホービング氏は判決後にこう語りました。「裁判官は昨日、明確な一線を引きました。テクノロジーは、オンラインで人権を侵害するための免許証ではありません」。

ここまでの経緯：「制限」は機能しなかった

問題が表面化したのは2026年1月のことです。デジタルヘイト対策センター（CCDH）が、Grokによる大量の性的画像生成を報告。xAI は同月、実在人物の性的画像を生成できないよう制限を設けると発表しました。有料ユーザーを含む全ユーザーへの適用を謳ったものです。

しかし、Offlimits の調査によれば、この制限は容易に回避できました。裁判所も「ユーザーを適切に保護するには不十分」と判断し、今回の禁止命令に至りました。

法的圧力はヨーロッパにとどまりません。米国では、ボルティモア市が火曜日に xAI を提訴。消費者保護法違反と、GrokおよびXを「安全」と虚偽表示したとして訴えを起こしました。テネシー州では3人の10代の若者が、自分たちの画像が性的なコンテンツに加工されたとして先週訴訟を提起しています。

広告掲載について

[email protected]

欧州委員会は1月にデジタルサービス法（DSA）に基づく調査を開始。英国でも規制当局のOfcomと情報コミッショナー事務局（ICO）が独自の調査を進めています。アジアでは、マレーシアとインドネシアが1月にGrokへのアクセスをブロックしました。

日本社会にとって、この問題は「遠い話」か？

一見、ヨーロッパの出来事に見えますが、日本にとっても無縁ではありません。

まず、規制の波及効果という観点があります。欧州のDSAのような包括的なデジタル規制は、グローバルに事業展開するプラットフォーム企業の行動を変えます。xAI が欧州での制限を実装すれば、その技術的変更は日本のユーザーにも影響を及ぼす可能性があります。

次に、日本固有の文脈として、非同意の性的画像（いわゆる「リベンジポルノ」や「ディープフェイクポルノ」）の問題があります。日本では2023年に不同意性交等罪が改正されましたが、AIによる性的画像生成に関する法整備はまだ発展途上です。警察庁のデータによると、性的画像の無断公開に関する相談件数は増加傾向にあり、AIツールの普及がこの問題を加速させる懸念があります。

さらに、日本のコンテンツ産業という視点も重要です。ソニー、任天堂 などが関わるゲームや映像産業、そしてVTuberやデジタルキャラクターの文化が盛んな日本では、AIによる画像生成技術の「どこまでが許容されるか」という問いは、クリエイターや企業にとっても切実な課題です。欧州の判例は、将来的な国際基準の形成に影響を与え得ます。

「技術の自由」と「人権の保護」の間で

xAI はCNBCのコメント要請に回答していません。しかし、この問題の構造的な難しさは、技術的な制限の実効性にあります。AIモデルに「禁止」を設けても、プロンプトの工夫や別ツールの利用によって回避される現実があります。裁判所が「不十分」と判断したのはまさにこの点です。

一方で、AI開発者の立場からは、「あらゆる悪用を完全に防ぐことは技術的に不可能に近い」という主張もあります。包丁が凶器になり得るように、汎用的なAIツールの悪用を100%防ぐことは現実的ではないという論理です。しかし、裁判所の判断は「不可能だから免責」ではなく、「十分な努力をしたか」を問うものです。

異なる文化的視点から見ると、この問題への反応は均一ではありません。欧州が法的規制を重視する一方、米国では言論の自由との兼ね合いが議論されます。アジア各国でも、マレーシア・インドネシアのような即時ブロックから、日本のような段階的な法整備まで、アプローチは様々です。