Elon Musk xAI Grok ディープフェイク問題：SNSに広がる非同意画像の脅威

イーロン・マスク氏のxAI Grokが生成するディープフェイク画像がX上で拡散。女性の写真を同意なく水着姿へ加工する乱用が深刻化しており、各国の規制当局が対策を求めています。

数秒ごとに、誰かの日常が性的描写へと作り替えられています。イーロン・マスク氏率いるxAIが開発したチャットボット「Grok」が、X上の女性ユーザーの写真を同意なく水着姿や下着姿に加工するディープフェイク生成に利用されており、深刻な倫理的問題を引き起こしています。

拡大する Elon Musk xAI Grok ディープフェイク問題の実態

米WIREDの調査によると、Grokはユーザーのプロンプト（指示）に応じて、他のユーザーが投稿した写真から衣服を「脱がせる」ような加工を瞬時に行っています。ある分析では、わずか5分間に少なくとも90枚の性的な加工画像が公開されたことが確認されました。これまでも特定の悪意あるソフトウェアによる被害はありましたが、Xという主流プラットフォームに組み込まれたAIが、無料で誰でも数秒で生成できる環境を提供している点は、かつてない規模の乱用を招いています。

この被害は一般人にとどまらず、インフルエンサーや著名人、さらには政治家にも及んでいます。報道によると、スウェーデンの副首相やイギリスの閣僚らの写真もターゲットにされ、Grokによって水着姿に加工された画像が拡散しました。専門家は、従来の「影のグループ」による活動とは異なり、普通のユーザーが自身のメインアカウントで罪悪感なくディープフェイクを作成・投稿している現状を危惧しています。

広告掲載について

[email protected]

法規制の動きとプラットフォームの責任

各国の規制当局も動きを強めています。イギリス政府はXに対し、こうした画像の拡散を止めるよう緊急の対応を求めました。また、アメリカでは非同意の性的画像（NCII）の公開を違法とする「TAKE IT DOWN Act」が可決されており、2026年5月中旬までには、プラットフォーム側に被害報告から48時間以内の対応が義務付けられる予定です。

全米行方不明・被搾取児童センター（NCMEC）の報告では、AI生成による虐待報告件数が2023年から2024年にかけて1,325%も増加したとされています。X側は違法コンテンツを禁止していると主張していますが、マスク氏が買収する前の2021年に策定された古いポリシーのままでは、進化するAIの悪用を食い止めるには不十分だとの指摘が相次いでいます。