X Grok インドネシアとマレーシアでアクセス遮断、AIによる性的画像生成が問題に
2026年1月12日、インドネシアとマレーシアはXのAI「Grok」による性的画像生成を理由にアクセス遮断を発表。ディープフェイク対策と表現の自由の間で議論が激化しています。
自由な表現と安全性の境界線が、東南アジアで厳しく問われています。ロイター通信によれば、インドネシアとマレーシアの両政府は、SNSプラットフォームXのAIチャットボットGrokへのアクセスを一時的に遮断することを決定しました。これは、同機能を利用して性的、あるいは不適切な画像が生成・悪用されるケースが世界的に相次いでいることを受けた措置です。
X Grok インドネシア・マレーシア遮断の背景と規制の現状
問題視されているのは、Grokに搭載された画像編集機能です。ユーザーがアップロードした画像をAIで加工できるこの機能が、本人の同意のない性的なフェイクコンテンツ、いわゆる「ディープフェイク・ポルノ」の作成を助長しているとの懸念が広がっています。
インドネシアの情報通信省は、現地のインターネット規制法に基づき、公序良俗に反するコンテンツの拡散を防ぐ義務がプラットフォーム側にあると主張しています。一方、X側は現時点で公式なコメントを避けていますが、一部のユーザーからは表現の自由を損なうものだという反対意見も出ており、議論を呼んでいます。
拡散するディープフェイクの脅威と各国の対応
この問題は東南アジアに留まりません。2026年に入り、AIによるフェイク画像が社会問題化しており、オーストラリアでも若年層のアカウント保護を目的とした大規模なアカウント削除が行われるなど、世界的に「物理的なAI」への規制が強まっています。
関連記事
韓国AI基本法の表示違反は、是正命令に従わないときに過料がかかります。PRISMが照合した韓国5本・台湾4本の現行法律で、AI表示・開示の漏れに命令を経ず初回の違反から金銭的な制裁がかかるのは、選挙運動ディープフェイクと台湾のプラットフォーム広告の2か所です。
中国は2025年9月から、AI生成物へのAIGCメタデータ付与と流通プラットフォームの確認を義務づけました。EUの行動規範は、署名者が画像・動画・音声にメタデータと電子透かしの二層を自主的に約束する仕組みです。
EU AI法第50条のディープフェイク表示義務は8月2日から適用されています。12月2日に終わる猶予は、8月2日より前に市場投入した生成AI提供者の機械可読表示だけです。同日、同意のない性的ディープフェイク生成AIへの条件付き禁止も始まります。
9月下旬の2週間から5件を選びました。韓国の9月輸出入動向、エヌビディアのHugging Face買収文書、米中のAI通報チャネル、国連安保理のAI会合、25か月連続で増えた出生数。どこまで一次文書で確認できたかを項目ごとに明記しています。
意見
この記事についてあなたの考えを共有してください
ログインして会話に参加