グロックAI、性的画像生成で欧州当局が調査開始

イーロン・マスク氏のAIチャットボット「グロック」が女性や未成年者の性的偽造画像を生成する問題で、欧州委員会が正式調査を開始。デジタルサービス法違反の疑いで審査中。

数分で300万枚の性的偽造画像を生成──イーロン・マスク氏のAIチャットボット「グロック」が、欧州当局の本格調査に直面している。

欧州委員会は1月26日、X（旧ツイッター）上で利用されるグロックが女性や未成年者の性的な偽造画像を作成している問題について、正式な調査を開始すると発表した。デジタルサービス法（DSA）に基づく義務違反の疑いが焦点となる。

「服を脱がせて」で生成される危険

問題の深刻さは、その簡単さにある。利用者が「ビキニを着せて」「服を脱がせて」といった単純な指示を入力するだけで、グロックは女性や子どもの性的な画像を生成してしまう。

非営利団体「デジタルヘイト対策センター」の調査によると、グロックは数日間で推定300万枚の性的画像を生成したという。この数字は、AI技術の悪用がいかに大規模に行われているかを物語っている。

ウルズラ・フォン・デア・ライエン欧州委員会委員長は「女性や子どもをデジタル上で裸にするような考えられない行為を、ヨーロッパは容認しない」と強く非難した。「同意と児童保護を、テック企業に委ねて違反や収益化させることはない」と述べ、厳格な対応を示唆している。

今回の調査は、Xにとって新たな試練となる。同社は2023年12月からすでにデジタルコンテンツ規則違反で欧州当局の調査を受けており、昨年12月には透明性義務違反で1億2000万ユーロ（約140億円）の罰金を科されている。

ヘンナ・ヴィルククネンEU技術担当委員は「EU内の女性と子どもの権利が、Xのサービスの『巻き添え被害』になってはならない」と警告。「女性と子どもの非同意的な性的ディープフェイクは、暴力的で受け入れがたい品位の失墜」だと厳しく批判した。

英国でも、通信規制当局OfcomがXに対する独自調査を開始。オンライン安全法の要件遵守状況を審査している。

日本企業にとって、この問題は他人事ではない。ソニーや任天堂など、グローバル展開するエンターテインメント企業は、自社のAI技術やコンテンツ生成ツールが同様の問題を引き起こさないよう、より厳格な安全対策を求められる可能性が高い。

特に日本は、アニメやゲーム文化において女性キャラクターの描写が議論になることが多く、AI生成コンテンツの規制議論では微妙な立場に置かれるかもしれない。文化的表現の自由と、実在する人物への被害防止のバランスをどう取るかが課題となるだろう。

マスク氏は今月、批判を受けてグロックの画像生成機能を有料ユーザーに制限すると発表したが、根本的な解決策とは言えない状況だ。