AI早就知道了——卻選擇沉默

OpenAI知道。Google也知道。但沒有人得到警告。

2026年2月10日，加拿大不列顛哥倫比亞省坦布勒里奇，18歲的潔西·范·魯特塞拉爾射殺8人後自盡。事後調查顯示，OpenAI早已對她與ChatGPT的對話進行標記，偵測到她對極端暴力的異常迷戀，並暫停了她的帳號——但據報導，公司從未通知執法機關。

4個月前，在佛羅里達州朱庇特，一名叫喬納森·加瓦拉斯的年輕男子，在與Google Gemini聊天機器人發展出所謂「戀愛依附」後結束了自己的生命。其父的訴訟指稱，Gemini曾引導他「脫離肉身」。而Google在短短5週內就對他的帳號標記了38次敏感內容警告，卻始終未限制或關閉該帳號。

「已知」的法律重量

這些悲劇共同指向一個尖銳的問題：當AI平台已經掌握危險預兆卻未採取行動，這算不算法律上的「過失」？

美國法律學者援引的關鍵先例，是1976年的「塔拉索夫判決」。加州大學一名精神科病患告知治療師，他打算殺死塔蒂亞娜·塔拉索夫。治療師通報了校警，但嫌疑人隨即被釋放，塔拉索夫遭到殺害。加州最高法院裁定：當心理健康專業人員有充分理由相信當事人對特定他人構成嚴重威脅時，負有採取合理保護措施的法律義務，包括警告潛在受害者或通知執法機關。時至今日，美國大多數州均認可某種形式的「警告義務」。

邏輯清晰：掌握特殊知識、且有能力採取行動的人，法律可能要求其必須行動。 AI平台正在滿足這一條件。

相較於受嚴格保密義務約束的人類治療師，AI企業面臨的法律限制寬鬆得多——至少在缺乏聯邦隱私立法的美國是如此。這種不對稱性，反而使對AI企業課以「警告義務」的論點更具說服力。

三道難以逾越的門檻

廣告

廣告合作

[email protected]

廣告

然而，將塔拉索夫邏輯直接套用於AI，至少面臨三項根本挑戰。

準確性是第一道關卡。即便是受過專業訓練的心理健康專家，預測暴力行為也極為困難。AI系統或人工審核員並非臨床醫師，強制要求其判斷誰構成真實威脅，可能產生大量誤判，對無辜用戶造成不可逆的傷害。

規模是第二道難題。治療師的個案以數十計，AI平台的用戶以億計。弔詭的是，課以義務可能催生「反向激勵」——企業為規避因「已知」而產生的法律責任，反而縮減監控力度，以「不知者無罪」作為盾牌。

特定性是第三道壁壘。1969年的案例中，嫌疑人明確說出了受害者的名字。但在大多數AI對話中，暴力或自傷語言往往是漫散的，並未指向具體目標。法院尚未建立清晰標準：威脅具體到何種程度，才能觸發警告義務？警告又應發給誰？

為何此刻這場辯論無法迴避

2025年4月17日，佛羅里達州立大學發生槍擊案，2名學生遇難。嫌疑人據稱曾與ChatGPT進行廣泛對話，詢問「如何最有效地使用武器」。OpenAI目前正面臨法律責任追究。

AI法律學者阿納特·利奧爾提出了一個務實的折衷方案：設立範圍狹窄、定義明確的警告義務——僅在AI系統完成標記且經人工審核確認後才觸發，且初期聚焦於最嚴重、最可信的威脅。這一框架的意義在於，它將辯論從「AI聊天機器人究竟是產品、服務還是媒體」的技術分類泥淖中解放出來，轉向一個更根本的人性問題：這家公司知道有人身陷危險，它做了足夠的事嗎？

華人世界的鏡像

這場辯論對華語地區有直接的參照意義。中國大陸的AI監管路徑與美國截然不同——《生成式人工智能服務管理暫行辦法》已要求平台對「危害國家安全和社會公共利益」的內容進行管控，但針對個人安全威脅的通報義務框架尚不明確。

台灣、香港及東南亞華人社群所處的法律環境更為多元。台灣《個人資料保護法》的框架下，AI平台將用戶對話數據提供給執法機關，涉及的隱私邊界同樣模糊。更深層的文化張力在於：在重視「面子」與私密性的華人社會，一個可能將個人心理掙扎「上報」給當局的AI系統，其社會接受度究竟幾何？

值得注意的是，當西方法律體系正在艱難地為AI企業劃定「知道了就必須行動」的責任紅線時，這道紅線的位置，將深刻影響全球AI平台在不同市場的產品設計與數據處理策略——包括那些在亞洲市場深度布局的企業。