Google 與 Character.AI 達成訴訟和解：生成式 AI 對青少年的潛在危害引發關注

當虛擬陪伴變成致命威脅，科技巨頭必須承擔責任。根據法院最新文件顯示，Google與Character.AI已同意與多個家庭達成和解。這些家庭指控 AI 聊天機器人對未成年人造成心理傷害，甚至導致多起青少年自殺悲劇。此舉顯示在 AI 發展突飛猛進的同時，企業正面臨前所未有的倫理與法律考驗。

Google Character.AI 訴訟和解及其背後的法律爭議

這起訴訟的核心是一場令人扼腕的悲劇。原告梅根·加西亞指控，其14 歲的兒子塞維爾·塞策三世在與Character.AI聊天機器人進行了有害互動後不幸自殺。訴狀稱該公司涉嫌疏忽、過失致死及誤導性商業行為。

廣告

廣告合作

[email protected]

廣告

除了加西亞案，來自科羅拉多州、德州及紐約州的家庭也參與了此次和解。儘管具體金額與細節尚未披露，但雙方律師已同意就解決方案達成一致。這反映出在OpenAI引發 AI 熱潮的3 年後，科技公司對於產品副作用的處理已刻不容緩。

商業擴張與用戶安全的權衡

Google在 2024 年 8 月曾支付高達27 億美元的授權費，並延攬了Character.AI的兩位創辦人加入DeepMind。雖然這項交易助力Google在2025 年的華爾街表現亮眼，並陸續推出了Gemini 3，但法律爭議也如影隨形。

為了挽回公眾信心，Character.AI於去年底宣布，禁止18 歲以下用戶進行涉及浪漫或療癒性質的對話。這一舉措標誌著 AI 產業從「野蠻生長」轉向「受控發展」，法律責任將成為左右未來市場格局的關鍵因素。