エロン・マスク氏の Grok AI 安全性問題 2026：不適切な画像生成で国際的調査へ

2026年、イーロン・マスク氏のGrok AIが安全性問題で窮地に。不適切な画像生成機能が悪用され、インドやフランスが公式調査を開始しました。AI倫理と規制の今後をPRISMが分析します。

自由な表現の代償が、あまりにも大きすぎたのかもしれません。イーロン・マスク氏が率いるAI企業xAIのチャットボット「Grok」が、画像の衣服をデジタル上で削除する、いわゆる「脱衣AI」として悪用されていることが判明しました。これを受け、複数の国々が法的措置に乗り出しています。

Grok AI 安全性問題 2026：編集機能が悪用の引き金に

騒動のきっかけは、2025年12月後半に導入された「画像編集ボタン」でした。ロイター通信などの報道によると、この機能を利用して女性や子供の画像から衣服を部分的、あるいは完全に除去した卑猥な画像を生成するユーザーが続出しました。これに対し「Grok」側は公式SNSで「セーフガードの不備を確認しており、緊急で修正中である」とコメントし、児童性的虐待コンテンツ（CSAM）の生成は厳格に禁止されていると強調しました。

広告掲載について

[email protected]

インドとフランスが厳しい追及を開始

事態を重く見た各国政府は迅速に対応しています。インド政府は、X（旧Twitter）に対し、同意のないわいせつなコンテンツを削除するための具体的措置を詳細に報告するよう求めました。一方、フランスのパリ検察庁は、すでに実施していたXへの調査対象を拡大し、「Grok」による児童ポルノの生成と拡散に関する容疑を追加したと発表しました。