AIが子どもを「脱がせる」時代に、法律は追いつけるか

EUがAIヌード生成アプリの禁止に向け動き出した。Grokが引き金となった今回の立法動向は、日本を含む世界のAI規制にどう影響するのか。101対9の賛成票が示す意味を読み解く。

子どもの画像をAIが「性的に加工」しても、現行法では違法ではない——。そんな法の空白が、いまEUの議会を揺るがしています。

101対9。ほぼ全会一致が意味するもの

2026年3月、欧州議会の内部市場委員会と市民の自由委員会は、共同で重要な採決を行いました。賛成101票、反対9票、棄権8票。この圧倒的な票差で、議員たちはAI「ヌード生成システム」の禁止を提案する方向で合意したのです。

直接の引き金となったのは、イーロン・マスクが所有するAIチャットボット「Grok」でした。Grokは、実在する人物——子どもを含む——の画像を性的に加工した出力を十分にブロックできていないと指摘され、国際的な批判を浴びました。これを受けてEUが動いた形です。

しかし、ここに根本的な問題があります。欧州委員会は今年初め、現行の「AI法（AI Act）」は「児童性的虐待素材（CSAM）や性的なディープフェイク画像を生成するAIシステムを禁止していない」と結論づけていました。つまり、世界で最も包括的とされるAI規制法でさえ、この種の被害を想定していなかったのです。

なぜ「今」なのか——法律の盲点と技術の加速

AI法は2024年に成立し、段階的に施行が進んでいます。しかし技術の進化はそれをはるかに上回るスピードで進みました。ヌード生成アプリ、いわゆる「ヌーディファイアー（nudifier）」は、一般ユーザーが数クリックで他人の画像を性的に改変できるツールです。その多くは無料または低コストで利用可能であり、被害者が気づかないまま画像が拡散するケースも報告されています。

とりわけ深刻なのが未成年者への影響です。学校内でのいじめや性的ハラスメントにこうしたツールが使われる事例が、欧米各国で相次いで報告されています。法律が「禁止していない」という現実は、被害者にとって二重の傷となります。

広告掲載について

[email protected]

今回の立法動向が「今」重要なのは、AI法の施行が本格化する直前というタイミングだからです。修正を加えるなら今しかない——議員たちはそう判断したのでしょう。

日本への視点：対岸の火事では済まない理由

日本ではどうでしょうか。総務省やデジタル庁はAI利活用のガイドラインを整備しつつありますが、ヌード生成AIを明示的に禁止する法律は現時点では存在しません。「不正競争防止法」や「児童ポルノ禁止法」が部分的に適用される可能性はありますが、AI生成コンテンツへの適用については解釈が定まっていない部分も多いのが実情です。

日本のIT企業やソニー、NTTのようなテクノロジー関連企業にとっても、EUの規制動向は無視できません。EU市場でサービスを展開する、あるいはEU企業と協業する日本企業は、EU AI法の適用対象となり得るからです。「域外適用」という概念のもと、日本国内のサービスであってもEU市民が利用すれば規制が及ぶ可能性があります。

また、日本社会が直面する課題として、学校現場でのディープフェイク被害があります。文部科学省のデータによれば、SNSを通じた性的被害を受けた未成年者の数は増加傾向にあり、AIツールの普及がこれを加速させるリスクは現実のものとなっています。

規制すれば解決するのか——複数の視点から

賛成派の論理は明快です。子どもを守ること、そして同意なく性的画像を生成・拡散されるすべての人を守ること——これは基本的人権の問題だ、と。EUの姿勢はその点で一貫しています。

一方、テクノロジー業界からは懸念の声も上がっています。「ヌード生成」という機能をどこまで広く定義するかによって、医療用画像処理や芸術表現、さらには一般的な画像編集ソフトウェアまで規制の対象になりかねないという指摘です。規制の範囲が曖昧なまま禁止が先行すれば、イノベーションを萎縮させるリスクがあります。

Grokを開発・運営するxAI（マスク氏の会社）側は、今のところEUの動きに対して公式なコメントを出していません。しかしマスク氏がEU規制全般に批判的な姿勢をとってきたことは周知の事実であり、今後の対立が注目されます。

文化的な文脈も重要です。日本では「二次元」コンテンツ、すなわちアニメやマンガにおける性的表現が長い歴史を持ち、その規制をめぐる議論は国内でも繰り返されてきました。EUが「実在する人物」の画像に限定した禁止を提案しているのに対し、日本ではフィクションと現実の境界線をどう引くかという別の難問も存在します。