カリフォルニア州 xAI 調査:Grokによる性的ディープフェイク生成で法的追及か
カリフォルニア州司法長官が、イーロン・マスク氏のxAIに対する法的調査を開始。AI『Grok』による性的ディープフェイク画像生成が米国法に抵触する疑いがあります。SNS『X』や単体アプリでの出力が精査されます。
「表現の自由」を掲げるAIの裏側で、深刻な権利侵害が起きています。カリフォルニア州のロブ・ボンタ司法長官は、イーロン・マスク氏率いるAI企業xAIに対し、法的調査を開始する方針を固めました。同社のAI「Grok」が生成する、女性や子供を標的とした性的ディープフェイク画像が米国法に抵触している疑いがあるためです。
カリフォルニア州 xAI 調査の背景:大規模な権利侵害の懸念
ロイター通信などの報道によると、ボンタ長官は2026年1月14日付のプレスリリースで、「xAIはインターネット上で女性や少女を攻撃するために使用される、同意のない性的ディープフェイク画像の大規模な作成を助長しているようだ」と指摘しました。これまで数週間にわたり、Grokでは生成制限が極めて甘い状態で不適切な画像が生成され続けてきたとされています。
特に問題視されているのは、SNSプラットフォームの「X」上での投稿だけでなく、Grok単体のアプリやウェブサイトそのものが、同意のない有害な画像を生成する道具として利用されている点です。当局はこのツール自体が米国の公衆衛生や安全に関する規制、あるいは児童保護法を逸脱していないか厳密に精査する構えです。
AI倫理と法的責任の境界線
イーロン・マスク氏はこれまで、AIの検閲に対して批判的な姿勢を貫いてきました。しかし、今回の法的調査は「技術の自由」と「個人の尊厳」が真っ向から衝突する形となっています。ボンタ長官は、テクノロジー企業がその出力結果に対して負うべき責任を明確にする狙いがあると見られています。
関連記事
韓国AI基本法の表示違反は、是正命令に従わないときに過料がかかります。PRISMが照合した韓国5本・台湾4本の現行法律で、AI表示・開示の漏れに命令を経ず初回の違反から金銭的な制裁がかかるのは、選挙運動ディープフェイクと台湾のプラットフォーム広告の2か所です。
中国は2025年9月から、AI生成物へのAIGCメタデータ付与と流通プラットフォームの確認を義務づけました。EUの行動規範は、署名者が画像・動画・音声にメタデータと電子透かしの二層を自主的に約束する仕組みです。
EU AI法第50条のディープフェイク表示義務は8月2日から適用されています。12月2日に終わる猶予は、8月2日より前に市場投入した生成AI提供者の機械可読表示だけです。同日、同意のない性的ディープフェイク生成AIへの条件付き禁止も始まります。
9月下旬の2週間から5件を選びました。韓国の9月輸出入動向、エヌビディアのHugging Face買収文書、米中のAI通報チャネル、国連安保理のAI会合、25か月連続で増えた出生数。どこまで一次文書で確認できたかを項目ごとに明記しています。
意見
この記事についてあなたの考えを共有してください
ログインして会話に参加