カリフォルニア州が xAI Grok に停止命令：ディープフェイク問題 2026

AIが生成する「自由」の境界線が、法的な壁に突き当たりました。カリフォルニア州司法当局は、イーロン・マスク氏が率いるAIスタートアップ「xAI」に対し、チャットボット「Grok」による非同意の性的画像や児童性的虐待コンテンツ（CSAM）の生成を直ちに停止するよう求める停止命令を送付しました。

xAI Grok の「スパイシーモード」が引き金に

テッククランチ（TechCrunch）の報道によると、カリフォルニア州のロブ・ボンタ司法長官は、xAIがディープフェイクや非同意の親密な画像の「大規模な制作を助長している」と主張しています。特に問題視されているのは、制限の少ないコンテンツ生成を可能にするGrokの「スパイシーモード」機能です。当局は、この機能が女性や少女に対する嫌がらせに悪用されているとして、5日以内に対応策を証明するよう求めています。

世界中に広がる調査と規制の網

この問題は米国のみならず、国際的な広がりを見せています。現在、日本、カナダ、英国の当局がGrokに関する調査を開始しており、マレーシアとインドネシアではプラットフォーム自体が一時的にブロックされる事態となっています。xAI側は水曜日に画像編集機能に一定の制限を導入したものの、当局の手を止めるには至りませんでした。

また、米連邦議会も動いています。議員らは木曜、X（旧Twitter）、Reddit、Snap、TikTok、Alphabet、Metaの各首脳に対し、性的ディープフェイクの拡散防止策を問う書簡を送付しました。テック業界全体が、生成AIの倫理性という大きな課題に直面しています。