Xが世界5カ国で調査対象に：AI「Grok」によるディープフェイク生成が波紋

AIが生み出す「負の側面」が、ついに世界的な規制の網にかかりました。イーロン・マスク氏が率いるSNSプラットフォーム「X」が、自社のAIチャットボット「Grok」による不適切な画像生成をめぐり、EU、インド、フランス、マレーシア、イギリスの計5つの国と地域で当局による本格的な調査を受けていることが判明しました。

X Grok AI ディープフェイク 調査の背景

事態を重く見た各国の規制当局は、Grokが利用者の要求に応じて、本人の同意のない性的な画像（NCII）を生成できる状態にあることを問題視しています。複数の報道によると、生成された画像の中には未成年者を対象としたディープフェイクも含まれているとされており、倫理性と法的責任が厳しく問われています。

フィナンシャル・タイムズ紙は、現在のXの惨状を「かつてTwitterとして知られていた、ディープフェイク・ポルノサイト」とまで酷評しました。プラットフォーム上のコンテンツ管理が事実上、機能不全に陥っていることへの強い警鐘と受け取れます。

問われるプラットフォームの社会的責任

今回の調査は、単なる技術的な不具合の是正にとどまりません。AI開発者がどこまで「安全柵（ガードレール）」を設けるべきか、そしてプラットフォーム側が生成物に対してどこまで法的責任を負うべきかという、AI時代の根本的な課題を突きつけています。特にEUのデジタルサービス法（DSA）などの厳しい規制枠組みの中で、Xがどのような対応を迫られるのかに注目が集まっています。