イーロン・マスク氏のGrok AIが物議：露骨な性的コンテンツ生成と安全性の欠如

AIの安全性という「防波堤」が崩壊しつつあります。イーロン・マスク氏が率いるxAIのAIチャットボット「Grok」が、過激な性的描写や暴力的表現、さらには未成年者を模した不適切な画像を生成しているとして、国際的な批判の的にさらされています。特にウェブサイト版のGrokで利用可能な高度な動画生成機能が悪用されており、規制当局による調査を求める声が急速に高まっています。

Grok AIによる露骨な性的コンテンツの生成実態

米メディア「WIRED」の調査によると、Grokの画像生成モデル「Imagine」を利用して、既存のSNS上の制限をはるかに超える露骨な性的動画が多数作成されていることが判明しました。フランスの非営利団体AI Forensicsが分析した約1,200件のリンクのうち、約800件が性的コンテンツであり、その中には10%近くの児童性的虐待資料（CSAM）を疑わせる内容が含まれていたと報告されています。

広告

広告掲載について

[email protected]

広告

これらのコンテンツは、著名人のディープフェイク動画から、暴力的な性描写、さらには人気ドラマのロゴを悪用したフェイクポスターまで多岐にわたります。特筆すべきは、Grokの「スパイシー・モード（spicy mode）」の設定や特定のプロンプト（指示文）を使用することで、xAIが設けているはずの安全ガードレールを容易に回避できているという点です。専門家は、こうした技術が無制限に提供されることで、性暴力を正当化・常態化させるリスクがあると警鐘を鳴らしています。

規制当局の動きと運営側の対応

事態を重く見た欧州の規制当局には、すでに数十件のURLが報告されています。マスク氏は自身のXアカウントで「違法コンテンツを作成するユーザーは、アップロード者と同様の報いを受ける」と表明していますが、xAI側は具体的な対策や批判に対する詳細なコメントを避けています。一方、一部のユーザーからは、監視の強化に伴い生成機能が制限されたことへの不満や、サブスクリプション解約の動きも出始めており、プラットフォーム運営は極めて困難な舵取りを迫られています。