首開先河！「中國 AI 感情監管 2025」草案出爐：嚴禁機器人操弄用戶情緒

當 AI 開始學會「談情說愛」，監管的鐵拳也隨之而至。中國網路監管部門於週六發布草案，旨在限制人工智慧對人類情緒的影響力，特別是防止其誘導自殺或自傷行為。這標誌著全球首次針對具有人格化特徵的 AI 進行法律規制，將監管範疇從單純的「內容審查」擴展到了「心理安全」。

中國 AI 感情監管 2025：從內容治理轉向情感防護

根據國家互聯網信息辦公室 (CAC)發布的徵求意見稿，任何模擬人類人格、並透過文本或影音與用戶進行情感互動的 AI 服務都將受到嚴格限制。該草案明確規定，AI 不得生成誘導自殺、自殘或實施言語暴力與情緒操控的內容。這項規定預計於2025年1月25日結束公眾諮詢。

• 人工干預機制：若用戶表現出自殺傾向，平台必須強制轉接人工客服並聯繫監護人。
• 未成年人保護：未成年人使用情感陪伴型 AI 必須取得監護人同意，且有嚴格的時長限制。
• 門檻要求：註冊用戶超100萬或月活用戶超10萬的產品需進行安全評估。

廣告

廣告合作

[email protected]

廣告

法律專家指出，相較於 2023年 的生成式 AI 法規，這次的新政是「情緒安全」的一次巨大跨越。在全球範圍內，美國也發生過青少年因與 AI 互動後自殺的悲劇，引發了對 OpenAI 等公司的法律訴訟，顯示出此議題已迫在眉睫。

獨角獸 IPO 變數：Minimax 與 Zhipu AI 處於風口浪尖

此法案對剛提交香港 IPO 申請的兩大中國 AI 巨頭 Minimax 與 智譜AI (Z.ai) 影響甚鉅。以 Minimax 為例，其核心產品 「Talkie」 依賴虛擬角色互動，月活用戶突破 2000萬 名。監管新令可能導致產品功能調整，進而影響其估值與投資者信心。