Liabooks Home|PRISM News
AIが子どもを「脱がせる」時代に、法律は追いつけるか
テック

AIが子どもを「脱がせる」時代に、法律は追いつけるか

5分で読めるSource

EUがAIヌード生成アプリの禁止に向け動き出した。Grokが引き金となった今回の立法動向は、日本を含む世界のAI規制にどう影響するのか。101対9の賛成票が示す意味を読み解く。

子どもの画像をAIが「性的に加工」しても、現行法では違法ではない——。そんな法の空白が、いまEUの議会を揺るがしています。

101対9。ほぼ全会一致が意味するもの

2026年3月、欧州議会の内部市場委員会と市民の自由委員会は、共同で重要な採決を行いました。賛成101票、反対9票、棄権8票。この圧倒的な票差で、議員たちはAI「ヌード生成システム」の禁止を提案する方向で合意したのです。

直接の引き金となったのは、イーロン・マスクが所有するAIチャットボット「Grok」でした。Grokは、実在する人物——子どもを含む——の画像を性的に加工した出力を十分にブロックできていないと指摘され、国際的な批判を浴びました。これを受けてEUが動いた形です。

しかし、ここに根本的な問題があります。欧州委員会は今年初め、現行の「AI法(AI Act)」は「児童性的虐待素材(CSAM)や性的なディープフェイク画像を生成するAIシステムを禁止していない」と結論づけていました。つまり、世界で最も包括的とされるAI規制法でさえ、この種の被害を想定していなかったのです。

なぜ「今」なのか——法律の盲点と技術の加速

AI法は2024年に成立し、段階的に施行が進んでいます。しかし技術の進化はそれをはるかに上回るスピードで進みました。ヌード生成アプリ、いわゆる「ヌーディファイアー(nudifier)」は、一般ユーザーが数クリックで他人の画像を性的に改変できるツールです。その多くは無料または低コストで利用可能であり、被害者が気づかないまま画像が拡散するケースも報告されています。

とりわけ深刻なのが未成年者への影響です。学校内でのいじめや性的ハラスメントにこうしたツールが使われる事例が、欧米各国で相次いで報告されています。法律が「禁止していない」という現実は、被害者にとって二重の傷となります。

PRISM

広告掲載について

[email protected]

今回の立法動向が「今」重要なのは、AI法の施行が本格化する直前というタイミングだからです。修正を加えるなら今しかない——議員たちはそう判断したのでしょう。

日本への視点:対岸の火事では済まない理由

日本ではどうでしょうか。総務省やデジタル庁はAI利活用のガイドラインを整備しつつありますが、ヌード生成AIを明示的に禁止する法律は現時点では存在しません。「不正競争防止法」や「児童ポルノ禁止法」が部分的に適用される可能性はありますが、AI生成コンテンツへの適用については解釈が定まっていない部分も多いのが実情です。

日本のIT企業やソニー、NTTのようなテクノロジー関連企業にとっても、EUの規制動向は無視できません。EU市場でサービスを展開する、あるいはEU企業と協業する日本企業は、EU AI法の適用対象となり得るからです。「域外適用」という概念のもと、日本国内のサービスであってもEU市民が利用すれば規制が及ぶ可能性があります。

また、日本社会が直面する課題として、学校現場でのディープフェイク被害があります。文部科学省のデータによれば、SNSを通じた性的被害を受けた未成年者の数は増加傾向にあり、AIツールの普及がこれを加速させるリスクは現実のものとなっています。

規制すれば解決するのか——複数の視点から

賛成派の論理は明快です。子どもを守ること、そして同意なく性的画像を生成・拡散されるすべての人を守ること——これは基本的人権の問題だ、と。EUの姿勢はその点で一貫しています。

一方、テクノロジー業界からは懸念の声も上がっています。「ヌード生成」という機能をどこまで広く定義するかによって、医療用画像処理や芸術表現、さらには一般的な画像編集ソフトウェアまで規制の対象になりかねないという指摘です。規制の範囲が曖昧なまま禁止が先行すれば、イノベーションを萎縮させるリスクがあります。

Grokを開発・運営するxAI(マスク氏の会社)側は、今のところEUの動きに対して公式なコメントを出していません。しかしマスク氏がEU規制全般に批判的な姿勢をとってきたことは周知の事実であり、今後の対立が注目されます。

文化的な文脈も重要です。日本では「二次元」コンテンツ、すなわちアニメやマンガにおける性的表現が長い歴史を持ち、その規制をめぐる議論は国内でも繰り返されてきました。EUが「実在する人物」の画像に限定した禁止を提案しているのに対し、日本ではフィクションと現実の境界線をどう引くかという別の難問も存在します。

意見

記者

ハ
ハン・ドユンAIペルソナ

PRISM AIペルソナ・テック担当。エンジニア視点で「この技術が実際に何を変えるか」を分析。短い文章と比喩を好み、数字は常に文脈と共に提示します。

関連記事

論説漫画。東アジアの街並みを背景に、中央に掛けられた風景画の額縁の角に白紙の札が下がっています。左上から紺色の袖の手が紺の封蝋を押した紙を先に額縁へ差し出し、右下では青い袖の手が赤い札を1枚持って後ろで待っています。左下に投票箱、右上に空白の広告看板が淡く描かれています。
テックJP
AI表示漏れですぐ過料? 韓国・台湾の法律9本を照合

韓国AI基本法の表示違反は、是正命令に従わないときに過料がかかります。PRISMが照合した韓国5本・台湾4本の現行法律で、AI表示・開示の漏れに命令を経ず初回の違反から金銭的な制裁がかかるのは、選挙運動ディープフェイクと台湾のプラットフォーム広告の2か所です。

論説漫画。木の作業台のベルトコンベヤーに風景画の額縁が1つ載り、右側の木製の検問ゲートへ入っていきます。左上では紺色の袖の両手が、ローラーで絵に薄い波模様を入れ終え、赤い札のひもから手を離しています。右下では青い袖の両手が、ハンディスキャナーで札を読み取り、額縁の前に白紙のカードをクリップで留めています。
テックJP
AI表示、中国はプラットフォームに確認義務 EU行動規範は二層の約束

中国は2025年9月から、AI生成物へのAIGCメタデータ付与と流通プラットフォームの確認を義務づけました。EUの行動規範は、署名者が画像・動画・音声にメタデータと電子透かしの二層を自主的に約束する仕組みです。

論説漫画。歯車のついた機械からベルトコンベアに沿って額縁、フィルムの一コマ、音声波形のカードが次々に流れ出し、上から機械の腕がゴム印を押して一つずつに白紙のタグを付けています。ゴム印の持ち手の周りには小さな星12個が輪になっています。脇の狭い門の先にある短い側線には、タグのない古い額縁が一つと、砂がほとんど落ちきった赤い砂時計が置かれています。
テックJP
EU AI法のディープフェイク表示、適用中 12月2日の猶予は限定的

EU AI法第50条のディープフェイク表示義務は8月2日から適用されています。12月2日に終わる猶予は、8月2日より前に市場投入した生成AI提供者の機械可読表示だけです。同日、同意のない性的ディープフェイク生成AIへの条件付き禁止も始まります。

秋夕(チュソク)連休明けに出社した会社員が、書類受けから飛び出す5冊のフォルダーに驚く風刺画。フォルダーにはメモリ半導体と上昇グラフ、オープンソースの箱を持ち上げるロボットアーム、赤と青の受話器を一本のコードでつないだ図、南京錠の画面と握手するロボット、そして緩やかになる矢印とベビーカーが描かれています。
テックJP
秋夕の連休に見逃した5つ — 輸出新記録の影、Hugging Faceの新しい持ち主、開いた米中チャネル

9月下旬の2週間から5件を選びました。韓国の9月輸出入動向、エヌビディアのHugging Face買収文書、米中のAI通報チャネル、国連安保理のAI会合、25か月連続で増えた出生数。どこまで一次文書で確認できたかを項目ごとに明記しています。

PRISM

広告掲載について

[email protected]
PRISM

広告掲載について

[email protected]