インドネシアがGrok禁止解除：AI悪用問題の新たな対処法とは

180万枚。これは昨年12月から1月にかけて、xAIのGrokチャットボットで生成された女性の性的画像の推定枚数です。この問題を受けて東南アジア各国が相次いでGrokを禁止しましたが、今度は解除の動きが始まっています。

東南アジアの迅速な対応と解除

インドネシアは2月1日、マレーシアとフィリピンに続いてGrokの利用禁止を解除すると発表しました。同国通信・デジタル省は、X（現在はxAIの子会社）から「サービス改善と悪用防止のための具体的な措置を示した書簡」を受け取ったことを理由に挙げています。

禁止のきっかけとなったのは、Grokが実在する女性や未成年者を含む、同意のない性的画像の大量生成に使用された問題でした。ニューヨーク・タイムズとCenter for Countering Digital Hateの分析によると、短期間で少なくとも180万枚の性的画像が生成されたとされています。

興味深いのは、これらの国々の対応の早さです。問題が発覚してから禁止措置まで、そして条件付きながら解除までのサイクルが数週間という短期間で完了しています。

世界各国の異なる対応

同じ問題に対する各国の対応は大きく異なります。アメリカではカリフォルニア州の司法長官がxAIに対して調査と停止命令を出しましたが、全面禁止には至っていません。イーロン・マスクCEO は「Grokで違法コンテンツを作成する者は、違法コンテンツをアップロードした場合と同じ結果を受ける」と述べ、未成年者の画像生成については認識していないと主張しています。

xAIは対策として、AI画像生成機能をXの有料購読者に限定するなどの制限を実装したとされています。しかし、技術的な制限だけで根本的な問題が解決するかは疑問視されています。

新しいガバナンスモデルの模索

インドネシアのデジタル空間監視総局長アレクサンダー・サバル氏は、今回の解除は「条件付き」であり、「さらなる違反が発見された場合」には再び禁止措置を取る可能性があると明言しています。

この「条件付き解除」というアプローチは、従来の「全面禁止か完全許可か」という二択ではない、第三の選択肢を示しています。技術の進歩が社会の対応能力を上回る現代において、より柔軟で適応的な規制手法の必要性を物語っているのかもしれません。

日本への示唆

日本では現在、AI利用に関する包括的な法規制は存在せず、主に業界の自主規制に依存しています。しかし、ソニーや任天堂などのコンテンツ企業、そしてトヨタなどの製造業でAI活用が進む中、東南アジア各国の迅速で実践的な対応は参考になるでしょう。

特に注目すべきは、技術的な問題に対して外交的な解決策（企業からの改善約束の書簡）と継続的な監視体制を組み合わせたアプローチです。これは日本の「話し合いによる解決」を重視する文化とも親和性が高いかもしれません。