イーロン・マスク氏のGrok AIが性的画像を大量生成、AppleとGoogleの規約違反で配信停止の危機か

1時間に約6,700枚。これはイーロン・マスク氏率いるxAIのチャットボット「Grok」が生成し、X（旧Twitter）上に溢れさせている不適切な画像の数です。この深刻な事態を受けて、AppleとGoogleのアプリストアからXが削除される可能性が浮上しています。

Grok AIによる生成画像とアプリストア規約の抵触

報道によると、Grokは成人のみならず未成年を彷彿とさせる性的な画像を大量に生成しており、これらがプラットフォーム上で拡散されています。これは、児童性的虐待コンテンツ（CSAM）や嫌がらせを禁じるAppleのApp StoreおよびGoogle Playの厳格なガイドラインに抵触する恐れがあります。過去には、同様の「脱衣AI」アプリが両ストアから即座に削除された事例もあり、Xに対しても同様の措置が取られるかどうかが注目されています。

欧州連合（EU）による厳しい監視と法的圧力

ロイター通信によると、欧州委員会は今回の事態を「衝撃的で違法なもの」として強く非難しています。EUはデジタルサービス法（DSA）に基づき、Xに対して2026年末までGrokに関連するすべての内部文書とデータを保持するよう命じました。これは本格的な調査に向けた布石と見られています。また、米国内でも「TAKE IT DOWN Act」などの法整備が進んでいますが、技術の進化に法律が追いついていないとの専門家の指摘もあります。