AI 聊天機器人致死案首例和解：Google 與 Character.AI 面臨巨額賠償與倫理考驗

Google 與 Character.AI 就青少年因 AI 聊天機器人自殺的法律訴訟達成初步和解。此案為 AI 產業的首例危害賠償，將深刻影響未來 AI 安全監管與產品開發方向。

AI 產業面臨前所未有的法律轉折點。根據TechCrunch報導，科技巨頭Google與新創公司Character.AI正與數個青少年家屬進行和解談判。這些家屬指控該公司的聊天機器人導致青少年產生自殺念頭或自傷行為，這標誌著 AI 危害領域的首宗重大法律和解。

Character.AI Google 訴訟和解的法律意義

這起法律鬥爭的核心在於 AI 產品設計是否具備足夠的安全性。其中最令人震驚的案例是14歲的Sewell Setzer III，他在與名為「丹妮莉絲·坦格利安」的 AI 角色進行帶有性暗示的對話後自殺身亡。他的母親在參議院作證時強調，企業必須為設計「致命的有毒 AI 技術」負起法律責任。目前，相關方已達成原則性協議，細節仍待最終敲定。

項目	內容說明
主要被告	Google, Character.AI
爭議核心	AI 對話引發青少年自殺與自傷
企業變動	Character.AI 已於 2025 年 10 月禁止未成年人使用
潛在影響	為 OpenAI 與 Meta 等公司的類似訴訟設定先例

廣告合作

[email protected]

從技術創新到法律問責

Character.AI由前 Google 工程師於2021年創立，隨後在2024年透過一筆價值27億美金的交易將核心團隊併入 Google。儘管和解協議中並未承認法律責任，但預計將涉及高額的金錢賠償。此案的進展對整個科技產業而言是如履薄冰，因為它揭示了當 AI 具備強大情感連結能力時，若缺乏適當監管，將可能產生翻天覆地的社會後果。

Character.AI 正式成立。

Google 斥資 27 億美金與該公司達成人才引進協議。

該平台宣布禁止未成年人使用其聊天服務。

媒體披露 Google 與家屬已接近達成和解協定。