インド政府がイーロン・マスク氏の「X」に改善命令。AIツール「Grok」による不適切な画像生成が波紋

法的免責権が消滅するかもしれません。インドのIT省は、イーロン・マスク氏が率いるX（旧Twitter）に対し、AIチャットボット「Grok」の技術的および手続き的な即時改善を命じました。テッククランチの報道によると、ユーザーや国会議員から、このツールを使用して女性の画像を不適切に加工・生成するなどの「卑猥なコンテンツ」が作成されているとの指摘が相次いだためです。

インド政府によるXとGrokへの規制強化

インド政府は2026年1月2日までに、ヌード、性的、あるいは違法な素材を含むコンテンツの生成を制限するよう指示しました。また、プラットフォーム側に対し、卑猥なコンテンツの拡散を防ぐための具体的措置をまとめた報告書を72時間以内に提出することを求めています。これに従わない場合、インドの法律下でユーザー生成コンテンツに対する法的責任を免除される「セーフハーバー」保護が剥奪される可能性があると警告しています。

この問題は、Grokを用いて女性をビキニ姿に加工するなどの事例が共有されたことで表面化しました。インドのプリヤンカ・チャトゥルヴェディ国会議員は、この状況を深刻に受け止め、正式な苦情を申し立てていました。さらに、一部では未成年者が関与する性的な画像が生成された事例も報告されており、X側はセーフガードの不備を認め、該当する画像を削除したと発表しています。

巨大市場インドにおけるAIガバナンス

世界最大級のデジタル市場であるインドは、AI生成コンテンツに対して政府がどこまでプラットフォームの責任を問えるかを探る、重要なテストケースとなっています。インドIT省は、卑猥なコンテンツに関する現地法の遵守が法的免責維持の前提条件であることを強調し、不遵守の場合はプラットフォームの責任者やユーザーに対しても法的措置を講じる構えを見せています。