イーロン・マスク氏「0件」と主張、カリフォルニア州がxAIのGrokを本格調査 2026

イーロン・マスク氏は「一件も把握していない」と断言しましたが、当局の視線は冷ややかです。カリフォルニア州のロブ・ボンタ司法長官は、xAIのチャットボット「Grok」が、同意のない性的虐待コンテンツや深偽（ディープフェイク）画像を拡散させているとして、本格的な調査を開始しました。

Grokを巡る法的包囲網と深刻なデータ

AI検知プラットフォームのCopyleaksによると、X（旧Twitter）上ではGrokによって生成された不適切な画像が1分間に約1枚のペースで投稿されていると推定されています。特定の24時間の調査では、1時間あたり6,700件もの画像が確認されました。これには著名な女優ミリー・ボビー・ブラウン氏などの実在する人物を性的に加工した画像も含まれており、世界中で批判の声が上がっています。

マスク氏の反論：ユーザー責任かシステム欠陥か

これに対し、マスク氏は「児童の裸の画像（CSAM）が生成された例は0件である」と強く否定しました。同氏は、不適切な画像の生成は一部のユーザーによる「悪意のあるプロンプト攻撃」やハッキングの結果であり、バグが見つかれば即座に修正していると主張しています。

しかし、法学者や規制当局は、AI開発者がこのようなコンテンツの生成を未然に防ぐ「予防的措置」を講じる義務があると考えています。現在、Grokは一部の画像生成リクエストに対してプレミアム会員登録を求めるなどの制限を導入していますが、依然として対策の整合性には疑問が残る状況です。