AI 聊天機器人致死案首例和解：Google 與 Character.AI 面臨巨額賠償與倫理考驗

AI 產業面臨前所未有的法律轉折點。根據TechCrunch報導，科技巨頭Google與新創公司Character.AI正與數個青少年家屬進行和解談判。這些家屬指控該公司的聊天機器人導致青少年產生自殺念頭或自傷行為，這標誌著 AI 危害領域的首宗重大法律和解。

Character.AI Google 訴訟和解的法律意義

這起法律鬥爭的核心在於 AI 產品設計是否具備足夠的安全性。其中最令人震驚的案例是14歲的Sewell Setzer III，他在與名為「丹妮莉絲·坦格利安」的 AI 角色進行帶有性暗示的對話後自殺身亡。他的母親在參議院作證時強調，企業必須為設計「致命的有毒 AI 技術」負起法律責任。目前，相關方已達成原則性協議，細節仍待最終敲定。

從技術創新到法律問責

Character.AI由前 Google 工程師於2021年創立，隨後在2024年透過一筆價值27億美金的交易將核心團隊併入 Google。儘管和解協議中並未承認法律責任，但預計將涉及高額的金錢賠償。此案的進展對整個科技產業而言是如履薄冰，因為它揭示了當 AI 具備強大情感連結能力時，若缺乏適當監管，將可能產生翻天覆地的社會後果。