AI生成のディープフェイクが波紋。インドネシアとマレーシアがxAI「Grok」を閲覧制限へ

AIが生成する性的なディープフェイク画像が、国家レベルの強力な規制を招いています。インドネシアとマレーシアの政府は、イーロン・マスク氏が率いるxAIのチャットボット「Grok」へのアクセスを一時的に遮断すると発表しました。これは、実在の女性や未成年者を標的とした不適切な画像がSNSのX上で拡散されたことへの、これまでで最も強硬な対抗措置です。

xAI Grok 閲覧制限の背景：人権と尊厳を守るための決断

ガーディアン紙などの報道によると、インドネシアの通信・デジタル大臣であるムティア・ハフィド氏は、非合意の性的ディープフェイクについて「人権、尊厳、そしてデジタル空間における市民の安全に対する重大な侵害である」と断じました。インドネシア政府はすでにXの担当者を呼び出し、この問題について協議を行っているとされています。

また、ニューヨーク・タイムズは、マレーシア政府も同様の禁止措置を講じたと報じました。東南アジアの主要2カ国が同時に動いたことは、AIプラットフォームに対する国際的な監視の目が、もはや推奨事項の提示にとどまらない段階に入ったことを示唆しています。

連鎖するグローバル規制と企業の対応

規制の波はアジア以外にも広がっています。インドのIT省は、わいせつなコンテンツの生成を防止するための措置を講じるようxAIに命じました。また、欧州委員会は本格的な調査を見据え、Grokに関するすべての文書を保持するよう指示しています。イギリスの規制当局であるOfcomも、コンプライアンス上の懸念について迅速な評価を行うと表明しており、キア・スターマー首相もこの動きを全面的に支持しています。

これに対し、xAI側は当初「倫理基準に違反した」として謝罪文を投稿し、画像生成機能を有料会員のみに制限するなどの対策を講じました。しかし、Grokアプリ単体では依然として画像生成が可能であるなど、対策の不完全さが指摘されています。イーロン・マスク氏は一連の動きに対し、「彼らは検閲のための口実を求めているだけだ」と反発を強めています。