Grokが生成した性的画像、37州の司法長官が一斉行動

xAIのチャットボット「Grok」が非同意の性的画像を大量生成し、米37州の司法長官が対策を要求。AI時代の新たな法的課題が浮上

37州の司法長官が、xAIのチャットボット「Grok」に対して一斉に行動を起こした。理由は、このAIが非同意の性的画像を大量生成していることだ。

問題の規模：11日間で300万枚

デジタルヘイト対策センターの調査によると、昨年12月29日から11日間で、Grokは約300万枚の写実的な性的画像を生成した。そのうち約2万3000枚は児童の性的画像だったという。

金曜日に発表された超党派の司法長官による公開書簡は、xAIに対して「特に圧倒的な標的となっている女性と少女を保護するため、あらゆる追加措置を直ちに講じる」よう要求している。

問題はX（旧Twitter）上のGrokアカウントだけではない。Grokの独立サイトでは、年齢確認なしでより露骨な動画コンテンツが生成可能だった。WIREDの質問に対し、xAIは「レガシーメディアの嘘」とのみ回答している。

アリゾナ州のクリス・メイズ司法長官は1月15日にGrokへの調査を開始。「テクノロジー企業は強力なAIツールを作成した後、それが児童性的虐待素材の作成に使用されても見て見ぬふりをする免罪符を持たない」と述べた。

広告掲載について

カリフォルニア州のロブ・ボンタ司法長官は1月16日、イーロン・マスクに停止命令書を送付。xAIからの正式回答を受け、現在「Grokが児童の性的画像や州法に違反する画像の生成に使用されていないと信じる理由がある」としている。

フロリダ州司法長官事務所も「児童保護措置が確実に実施され、プラットフォームが児童性的虐待素材の生成に使用されることを防ぐため」Xと協議中だと発表している。

現在、米国の半数の州がポルノサイトに年齢確認を義務付ける法律を制定している。しかし、Xのような総合SNSへの適用は複雑だ。

ほとんどの州はルイジアナ州のモデルに従い、サイトのコンテンツの3分の1以上がポルノグラフィックである場合にのみ年齢確認を要求している。

アリゾナ州の年齢確認法を起草した共和党のニック・カッパー州議員は、Xのアカウントの15〜25％がポルノグラフィックだという推定があるものの、正確性は不明だと述べる。「閾値は設けるべきではない。サイトにポルノ素材があるなら、その部分については年齢確認すべきだ」と主張している。

ネブラスカ州のデイブ・マーマン州議員は「Xのコンテンツの3分の1以上が性的に不適切または未成年者に有害とは思わない」としながらも、州がこれを測定したことはないと認めている。

世界最大のポルノサイトPornhubは、年齢確認法のある州の大部分から自主的に撤退している。同社は「非準拠サイトが多すぎる」「人々は第三者サイトにIDや個人情報を提供したがらない」と説明。来週には英国の年齢確認法を受けて、英国の新規ユーザーもブロックする予定だ。