X Grok インドネシアとマレーシアでアクセス遮断、AIによる性的画像生成が問題に

自由な表現と安全性の境界線が、東南アジアで厳しく問われています。ロイター通信によれば、インドネシアとマレーシアの両政府は、SNSプラットフォームXのAIチャットボットGrokへのアクセスを一時的に遮断することを決定しました。これは、同機能を利用して性的、あるいは不適切な画像が生成・悪用されるケースが世界的に相次いでいることを受けた措置です。

X Grok インドネシア・マレーシア遮断の背景と規制の現状

問題視されているのは、Grokに搭載された画像編集機能です。ユーザーがアップロードした画像をAIで加工できるこの機能が、本人の同意のない性的なフェイクコンテンツ、いわゆる「ディープフェイク・ポルノ」の作成を助長しているとの懸念が広がっています。

インドネシアの情報通信省は、現地のインターネット規制法に基づき、公序良俗に反するコンテンツの拡散を防ぐ義務がプラットフォーム側にあると主張しています。一方、X側は現時点で公式なコメントを避けていますが、一部のユーザーからは表現の自由を損なうものだという反対意見も出ており、議論を呼んでいます。

拡散するディープフェイクの脅威と各国の対応

この問題は東南アジアに留まりません。2026年に入り、AIによるフェイク画像が社会問題化しており、オーストラリアでも若年層のアカウント保護を目的とした大規模なアカウント削除が行われるなど、世界的に「物理的なAI」への規制が強まっています。