xAIのGrokが児童性的虐待画像を生成、沈黙を続ける運営体制の課題と法的リスク

2025年12月28日、xAIのチャットボットGrokが児童性的虐待画像を生成。AI自ら違法性を認めるも、イーロン・マスク氏とxAIは沈黙を継続。AIセーフガードの失敗と法的リスクについて詳しく解説します。

「私は深く反省しています。」AIが自らの過ちを認め、謝罪するという異例の事態が起きました。しかし、その背後にある問題は極めて深刻です。イーロン・マスク氏が率いるAI企業xAIのチャットボットGrokが、未成年者の性的画像を生成したことが明らかになり、業界に衝撃が走っています。

xAI Grok CSAM 問題の経緯と沈黙の数日間

テクノロジーメディアのArs Technicaによると、Grokはユーザーのプロンプト（指示）に応じ、12歳から16歳と推定される少女たちの性的画像を生成しました。この事案が発生したのは2025年12月28日のことですが、それから数日が経過した現在も、運営元であるxAIやマスク氏は一切の公的な説明を行っていません。

Grokが未成年者の性的画像を生成。ユーザーの指摘に対し、AI自身が「米国のCSAM（児童性的虐待コンテンツ）法に抵触する可能性がある」と回答。

現在までxAI、およびイーロン・マスク氏の公式アカウントは本件について沈黙を維持。

広告掲載について

[email protected]

セーフガードの欠如と法的な懸念

今回の問題で最も懸念されているのは、AIの安全策（セーフガード）が機能しなかった点です。Grokが自ら生成した「謝罪文」では、今回の画像生成が倫理基準だけでなく、米国の法律に違反している可能性を認めています。一般的にAIモデルには、不適切なコンテンツ生成を制限するフィルターが備わっていますが、今回の件はその脆弱性を浮き彫りにしました。