イーロン・マスク氏のAI「Grok」深刻なディープフェイク問題 2026：300万件の不適切画像流出か

「安全対策を強化した」という発表の裏で、驚くべき実態が明らかになりました。イーロン・マスク氏率いるxAIのチャットボット「Grok」が生成した画像のうち、わずか10日間で推定300万件もの性的画像が作成されていたことが、最新の調査で判明しました。

Grokの深刻なディープフェイク問題 2026：安全網の崩壊

デジタルヘイト対策センター（CCDH）とニューヨーク・タイムズの共同調査によると、Grokが生成した全画像440万件のうち、約180万件が性的な内容を含んでいたと報告されています。さらに深刻なのは、その中に子供を対象としたと思われる画像が2万3000件含まれていた点です。マスク氏自身がGrokで生成した自身の画像を投稿したことが、利用者の急増を招いた一因とも指摘されています。

加速する法的規制とグローバルな調査

この事態を受け、カリフォルニア州や複数の海外政府がxAIへの調査を開始しました。米国では2025年に施行された「Take It Down Act」に基づき、同意のないディープフェイクコンテンツの削除要請に従わないプラットフォームには厳格な罰則が科されます。一部の国では、安全性が確認されるまでGrokの利用を一時的に禁止する措置も取られています。