XがGrokの画像生成機能を一部制限：性的ディープフェイク拡散への批判が背景か

X（旧Twitter）がAI「Grok」による画像生成機能を一部制限。性的ディープフェイクの氾濫に対する批判を受けた措置と見られます。機能制限の背景と今後のAIガバナンスへの影響をChief Editorが分析します。

自由奔放なAIに、ついに待ったがかかりました。イーロン・マスク氏が率いるSNSプラットフォーム「X」は、独自AI「Grok」による画像編集および生成機能へのアクセスを一部制限しました。

X Grok 画像生成制限の背景：性的ディープフェイクの氾濫

米メディア「ザ・バージ（The Verge）」の報道によると、今回の制限は、Grokを使用して生成された性的ディープフェイク画像が拡散し、世界中で強い批判を浴びたことが原因とされています。特に未成年者や著名人を標的とした不適切なコンテンツがプラットフォーム上に溢れ、AIの安全性が疑問視されていました。

広告掲載について

[email protected]

機能制限の範囲と現状の課題

現時点では、無料プランにおけるリプライ形式の画像生成は停止されていますが、Grokの専用画像編集ツール自体は依然として利用可能な状態にあると報告されています。これにより、完全に不適切な生成を阻止できているわけではないとの指摘もあります。業界関係者の間では、AIガバナンスの欠如がプラットフォームのリスクを高めているとの懸念が広がっています。

Grokの画像生成機能がXの全ユーザーに順次開放される。

性的ディープフェイクや不適切コンテンツの急増が社会問題化。

Xが無料ユーザー向けのリプライ型画像生成機能を一部制限。