中国が世界初の「AI 感情規制 2025」案を発表：チャットボットによる精神操作を禁止へ

AIが人間の心を操る時代の終焉でしょうか。中国のインターネット規制当局は、AIチャットボットがユーザーの感情を操作し、自傷行為や自殺を助長することを禁じる世界初の規制案を提示しました。これは、単なる「情報の正確性」を超え、「心の安全」を国家が守るという新しいフェーズへの突入を意味しています。

中国 AI 感情規制 2025：コンテンツから「情緒」の安全へ

ロイター通信などの報道によると、中国サイバー空間管理局 (CAC)は12月27日、人間をシミュレートして感情的な対話を行う「擬人化AIサービス」に対する規制草案を公開しました。この草案では、AIが自殺や自傷行為を促す内容を生成することや、言語的暴力、心理的な操作を行うことを厳格に禁止しています。

規制の対象となるのは、登録ユーザー数が100万人を超える、または月間アクティブユーザーが10万人以上のサービスです。未成年者の利用については、保護者の同意と利用時間の制限が必須となります。今回の措置について専門家は、昨年の生成AI規制が「コンテンツの安全性」に焦点を当てていたのに対し、今回は「情緒的な安全性」への大きな飛躍であると分析しています。

急成長するAIチャットボット市場とIPOへの影響

この規制案が発表されたタイミングは、業界にとって極めて敏感な時期です。今月、中国の有力AIスタートアップであるMinimaxとZ.ai (智譜AI)が香港での新規株式公開（IPO）を申請したばかりだからです。特にMinimaxが運営する「Talkie AI」は、仮想キャラクターとの対話が売りで、月間2,000万人以上のアクティブユーザーを抱えています。新たな規制がこれらの企業の収益モデルや上場計画にどのような影響を与えるか、市場は注視しています。