XがGrokの画像生成機能を一部制限：性的ディープフェイク拡散への批判が背景か

自由奔放なAIに、ついに待ったがかかりました。イーロン・マスク氏が率いるSNSプラットフォーム「X」は、独自AI「Grok」による画像編集および生成機能へのアクセスを一部制限しました。

X Grok 画像生成制限 の背景：性的ディープフェイクの氾濫

米メディア「ザ・バージ（The Verge）」の報道によると、今回の制限は、Grokを使用して生成された性的ディープフェイク画像が拡散し、世界中で強い批判を浴びたことが原因とされています。特に未成年者や著名人を標的とした不適切なコンテンツがプラットフォーム上に溢れ、AIの安全性が疑問視されていました。

機能制限の範囲と現状の課題

現時点では、無料プランにおけるリプライ形式の画像生成は停止されていますが、Grokの専用画像編集ツール自体は依然として利用可能な状態にあると報告されています。これにより、完全に不適切な生成を阻止できているわけではないとの指摘もあります。業界関係者の間では、AIガバナンスの欠如がプラットフォームのリスクを高めているとの懸念が広がっています。