Elon Musk Grok AI 禁止の波：マレーシアとインドネシアがディープフェイクを理由に遮断

AIが生成するコンテンツの「自由」は、どこまで許容されるべきでしょうか？イーロン・マスク氏率いるxAIのAIチャットボット「Grok」が、東南アジアの主要2カ国で事実上の追放を言い渡されました。

Elon Musk Grok AI 禁止の背景：性的ディープフェイクへの懸念

CNBCなどの報道によると、2026年1月11日（現地時間）、マレーシアとインドネシアの当局はGrokへのアクセスを一時的に遮断したと発表しました。この措置の背景には、同ツールを使用して非同意の性的画像や児童性的虐待コンテンツ（CSAM）が生成・拡散されているという深刻な問題があります。

マレーシア通信マルチメディア委員会（MCMC）は、X Corpがコンテンツのリスク管理に「繰り返し失敗した」ことを遮断の理由に挙げています。特に女性や子供をターゲットにした有害コンテンツの拡散を阻止するための効果的な防護策が講じられるまで、アクセス制限は継続される見通しです。

グローバルに広がる規制の網とxAIの対応

この問題は東南アジアに留まりません。EU、英国、ブラジル、そしてインドの規制当局も、Grokがディープフェイク作成を助長しているとして調査を開始しています。英国の監視団体であるインターネット・ウォッチ・ファンデーション（IWF）は、ダークウェブ上でGrokによって作成された未成年のわいせつ画像が共有されている事実を確認したと報告しました。

これに対し、マスク氏はX上で、違法なコンテンツを作成したユーザーは、直接アップロードした場合と同様の法的結果に直面すると主張しています。しかし、規制当局は「ユーザーによる通報」に頼る現行の仕組みは不十分であり、AIの設計そのものにリスクがあると考えています。