X Grok AI 画像編集 有料化で規制強化。性的ディープフェイク問題を受け英政府が警告

自由な表現の裏側で、制御不能なリスクが露呈しました。イーロン・マスク氏が率いるSNSプラットフォーム「X」は、AIツール「Grok」による画像編集機能を、有料プランの契約者のみに制限したことが明らかになりました。

X Grok AI 画像編集 有料化の背景と性的悪用の実態

BBCによると、今回の措置はGrokを使用して他人の画像を同意なく裸にするなどの「性的ディープフェイク」が大量に作成されたことへの批判を受けたものです。これまで無料ユーザーも利用可能だったこの機能ですが、現在は画像編集を試みると「有料会員のみ利用可能」というメッセージが表示されるようになっています。これにより、悪用するユーザーの氏名や支払い情報が記録されることになり、一定の抑止力が期待されています。

しかし、専門家からは厳しい声が上がっています。法規制の専門家であるクレア・マクグリン教授は、根本的な安全策を講じる代わりに、単に大多数のユーザーからアクセス権を奪っただけだと指摘しました。また、慈善団体「Internet Watch Foundation」は、11歳から13歳の少女たちの犯罪的な画像が生成されていた事実を重く見ており、アクセスの制限だけでは不十分だと述べています。

英政府の強硬姿勢：最悪の場合は国内アクセス禁止も

この問題に対し、英国政府は強い不快感を表明しています。キア・スターマー首相は、AIによる違法画像の生成を「恥ずべきことであり、不快極まりない」と非難しました。2026年01月09日現在、英国の通信規制当局「Ofcom」はオンライン安全法に基づき、Xへのアクセス制限や資金調達の阻止を含むあらゆる対抗措置を検討している模様です。