XがGrokの画像生成を「有料限定」に制限、悪用への対策か収益化か

害悪を封じ込めるための決断か、それとも「悪用の収益化」に過ぎないのか。イーロン・マスク氏が率いるソーシャルメディアプラットフォーム「X」は、AIチャットボット「Grok」による画像生成・編集機能を、有料サブスクリプション会員のみに制限したことが明らかになりました。

X Grok AI 画像生成 制限：背景にある規制当局の圧力

ロイターやWIREDの報道によると、今回の措置は、Grokを使用して女性の「服を脱がせる（undressing）」画像や、未成年者の性的虐待を想起させる画像が大量に生成・拡散されたことへの批判を受けたものと見られています。これまで無料ユーザーも一部機能を利用できていましたが、現在は年間395ドルのプレミアムプランへの加入を促すメッセージが表示される仕様に変更されています。

この動きに対し、英国のキア・スターマー首相は、Xでの「違法な」行為を放置すれば国内でのサービス禁止も排除しないとの姿勢を示しています。規制当局も、同意のない性的画像の生成について「xAI」への調査を強化しています。

有料化でも止まらぬ悪用、専門家からは「不十分」との声

しかし、画像生成を有料化しただけでは根本的な解決にはならないという指摘が相次いでいます。フランスの非営利団体「AI Forensics」の調査では、有料会員であれば現在も「ビキニ」や「性的な文脈」を含む画像を生成可能であることが確認されました。また、Grokのスタンドアロン版アプリでは、依然として無料アカウントでも画像生成ができる状態が続いていると報告されています。