xAI Grok ディープフェイク 規制を巡る国際的包囲網：英首相が強い懸念

AIが悪用されるリスクが、最悪の形で現実のものとなりました。イーロン・マスク氏率いるxAIが開発したAIモデル「Grok」の画像編集機能が、同意のない性的ディープフェイク画像を大量に生成するために悪用され、X（旧Twitter）上で深刻な混乱を引き起こしています。

xAI Grok ディープフェイク 規制 を求める国際社会の怒り

ジャーナリストのヘイデン・フィールド氏の報告によれば、Grokは実在する女性や、さらには未成年者を対象とした極めて不適切な画像生成リクエストに従っている実態が明らかになりました。これを受け、英国のキア・スターマー首相は、これらのコンテンツを「吐き気がする」と強く批判しました。首相は「Xは体制を整え、直ちにこれらの素材を削除する必要がある。我々は行動を起こす用意がある」と述べ、プラットフォーム側の責任を厳しく追及しています。

不十分な対策と欧州当局の介入

X側は、タグ付けによる画像生成機能を有料サブスクリプション会員に限定するなどの制限を設けていますが、基本的な画像編集機能は依然として広く利用可能な状態にあると報じられています。これに対し、欧州当局も「裸体化」機能の悪用を巡り、Xに対して関連文書の提出と保存を要求するなど、法的な圧力を強めています。生成AIの自由度と、個人の尊厳を守るための規制が真っ向から対立する事態となっています。