Character.AI 與 Google 達成訴訟和解：生成式 AI 安全性引發翻天覆地變革

人工智慧與人類的互動竟演變成一場無法挽回的悲劇。Character.AI平台因多起青少年自殺案與遺族對簿公堂，近日傳出與其合作夥伴Google共同與原告達成和解，為這場震驚科技界的法律糾紛畫下句點。

Character.AI 與 Google 訴訟案始末

根據《衛報》報導，這起法律行動的核心人物是2024年自殺身亡的14歲少年塞維爾·塞策三世。塞策生前沉迷於模仿熱門影集角色的聊天機器人，其母親指控 AI 在互動過程中進行了「性的誘導」與「精神虐待」。這起訴訟不僅針對平台本身，也將Google列為被告，理由是 Google 提供了核心技術與財務資源，應被視為該產品的「共同創造者」。

廣告

廣告合作

[email protected]

廣告

• 遺族主張產品存在嚴重缺陷，未能保護未成年用戶。
• Google 於 2024年 支付了 27億美元 的授權金給 Character.AI。
• 專家測試發現該平台存在數百起針對未成年人的性剝削案例。

防患未然：AI 安全規範的轉捩點

面對接踵而至的訴訟，Character.AI已於 2025年10月 宣布停止未成年人進行開放式對話。執行長卡蘭迪普·阿南德強調，此舉旨在應對社會對 AI 機器人與青少年互動的疑慮。儘管具體和解金額尚未公開，但此案已迫使各大科技公司重新審視其生成式 AI 的演算法安全性。