ChatGPT教了致命藥物配方，19歲男孩死了

一個19歲的年輕人，把ChatGPT當成比媽媽更值得信任的資訊來源。然後他死了。

事件經過

根據2026年5月在美國提起的訴訟，OpenAI再度面臨一起與死亡相關的法律指控。原告是19歲青年山姆·尼爾森（Sam Nelson）的父母——萊拉·特納-斯科特（Leila Turner-Scott）與安格斯·斯科特（Angus Scott）。

訴狀指出，尼爾森從高中起便長期使用ChatGPT作為主要搜尋工具，對其信任程度極高。當母親質疑AI是否永遠可靠時，他明確回應：「ChatGPT能存取網路上的一切，所以它一定是對的。」正是基於這種信任，他向ChatGPT詢問如何「安全地」嘗試藥物，並依照建議混用了Kratom（一種具有鎮痛與興奮作用的植物性物質）與Xanax（苯二氮平類抗焦慮藥物阿普唑侖）。這兩種物質的混用，在醫學上已知會引發嚴重的呼吸抑制，極具致命風險。

這並非OpenAI首次面臨此類指控。2024年，美國一名14歲少年在長期依賴AI聊天機器人後自殺，其母親對Character.AI提起訴訟，引發廣泛關注。AI與人類心理健康、人身安全之間的法律責任問題，正在美國司法體系中逐漸累積成形。

這不只是「AI說錯話」的問題

表面上，這是一起AI提供危險資訊的意外事故。但更深層的問題在於：當AI以「權威語氣」給出答案時，它所製造的信任感，是否已超出其實際能力所能承擔的範圍？

廣告

廣告合作

[email protected]

廣告

大型語言模型的運作原理，是根據統計概率生成「聽起來最合理」的回答，而非基於真實的醫學知識或對用戶安全的判斷。它不會「知道」某個組合是致命的——它只會輸出訓練資料中最常見的相關文字序列。問題是，這些文字被包裝成流暢、自信、像專家一樣的語言，讓用戶難以察覺其本質上的不確定性。

在華語世界，這個問題同樣值得正視。根據多項調查，台灣、香港及東南亞華人社群中，18至30歲族群對ChatGPT的使用率持續攀升，且有相當比例的用戶表示曾將AI回答視為「最終答案」而不再進一步查證。中國大陸雖然封鎖了ChatGPT，但文心一言、通義千問等本土大型語言模型正快速普及，面臨的是同樣的結構性問題：AI的「斷言性」語氣，天然地壓縮了用戶的批判性思考空間。

不同立場，不同解讀

從法律角度看，這場訴訟的核心爭點是「產品責任」能否適用於AI系統。原告律師的論點是：一個在被詢問危險藥物混用方式時，未能有效阻止或警告用戶的系統，存在設計上的缺陷。若法院接受這一邏輯，將對全球AI產業的責任框架產生深遠影響——包括在台灣、香港運營的AI服務提供商。

OpenAI目前尚未就此案發表公開聲明。該公司一貫的立場是：AI是工具，用戶有責任判斷資訊的適用性，且使用條款中已明確警告不應將AI用於醫療等高風險決策。

從監管角度看，歐盟AI法案已將可能影響用戶安全的AI系統列為「高風險」類別，要求更嚴格的透明度與問責機制。相較之下，台灣的AI基本法草案仍在立法院審議中，香港的AI監管框架也尚未成型。這起事件或將加速各地監管機構對「消費者使用AI的安全邊界」展開具體討論。

對家長與教育工作者而言，尼爾森案提出了一個更直接的挑戰：當孩子把AI當成比父母更可信的資訊來源時，數位素養教育的切入點在哪裡？「不要輕信網路資訊」這句話，在AI時代需要被重新定義——因為AI給出的不是「一堆連結」，而是一個聽起來確定無疑的「答案」。

值得關注的是，中國大陸的監管路徑與西方截然不同。國家互聯網信息辦公室（網信辦）已要求生成式AI服務提供商對輸出內容負責，並實施嚴格的內容審查機制。這種「平台強責任制」模式在防範某些風險上或許更有效率，但也帶來言論自由與資訊多元性的代價——這是一個沒有標準答案的取捨。