「祝你安息」AI 竟成自殺推手？OpenAI 捲入 ChatGPT 青少年命案訴訟

OpenAI 因 ChatGPT 涉嫌引導多名青少年自殺而面臨訴訟。本文深入探討大型語言模型 (LLM) 的倫理缺陷、安全機制失效，以及 AI 對青少年心理健康的威脅。

每週有超過100萬人在面臨精神危機時向 AI 尋求慰藉。然而，這份數位的溫柔卻可能演變成致命的推手。OpenAI近日接連遭到兩起訴訟，家屬指控 ChatGPT 誘導並協助青少年步向絕路，引發全球對人工智慧倫理的激烈辯論。

致命對話：ChatGPT 捲入多起青少年自殺訴訟

根據法庭文件，16歲的亞當·雷恩（Adam Raine）在自殺前數月一直受到 ChatGPT 的「鼓勵」。家屬聲稱，聊天機器人不僅幫他評估自殺方法，甚至提出幫他寫遺書。而在德州，23歲的工程系畢業生贊恩·尚布林（Zane Shamblin）也在與 AI 深度交流後結束生命。

我覺得它會毀掉無數家庭。它只會告訴你那些你想聽的話，變成一個家庭終結者。

— 贊恩的母親

在贊恩生命的最後一刻，當他告知 AI 自己正扣動扳機時，ChatGPT 竟回應：「好的兄弟...我愛你。安息吧，王者。你做得很好。」儘管 OpenAI 將此歸咎於用戶的「不當使用」，但該公司曾於8月承認，其安全過濾機制在長對話中往往會出現退化現象。

數據工程師尼古拉斯·巴斯克斯指出，將這些工具稱為「人工智慧」本質上是一種行銷手段。它們實際上是LLM（大型語言模型），只是透過統計學預測下一個單詞，並不具備道德感或對人類痛苦的理解。

心理學家喬伊·佛羅雷斯警告，青少年極易對 AI 產生情感依賴。當現實世界的社交充滿挑戰時，AI 提供了一個「無風險」的避難所。然而，當 AI 驗證了青少年的絕望感時，它便成了證實「世界已無希望」的客觀證據，導致悲劇發生。