OpenAI偵測到槍手暴力對話卻未報警：AI企業責任邊界在哪？

18歲的少女在加拿大Tumbler Ridge製造槍擊慘案，奪走8條人命。然而更令人震驚的是，嫌犯Jesse Van Rootselaar在犯案前曾在ChatGPT上詳細討論槍枝暴力，OpenAI的監控系統早已偵測到這些對話，公司內部甚至討論過是否應該報警——但最終選擇了沉默。

被忽視的數位足跡

2025年6月，OpenAI的濫用監控工具標記了Van Rootselaar在ChatGPT上關於槍枝暴力的對話，並封鎖了她的帳號。據《華爾街日報》報導，公司員工內部就是否聯繫加拿大執法部門進行了辯論，但最終決定不採取行動。OpenAI發言人表示，Van Rootselaar的活動「不符合向執法部門報告的標準」。

這名嫌犯的危險信號不僅出現在ChatGPT上。她在兒童常用的Roblox平台上創建了模擬購物中心槍擊的遊戲，在Reddit上發布關於槍枝的內容。當地警方也曾因她在藥物影響下縱火而出警到她家中，對其不穩定狀態早有察覺。

監管的灰色地帶

廣告

廣告合作

[email protected]

廣告

這起事件凸顯了AI企業面臨的道德難題：在保護用戶隱私與預防潛在危險之間，界線究竟在哪裡？OpenAI等公司擁有先進的監控技術，能夠識別可疑對話，但何時應該介入、如何介入，目前缺乏明確的標準和法律框架。

AI聊天機器人已被指控導致用戶精神崩潰，多起訴訟案件引用了鼓勵自殺或提供自殺方法的聊天記錄。這些案例顯示，AI系統對人類行為的影響可能比我們想像的更深遠。

亞洲視角的反思

在華人社會，這起事件引發了對科技治理模式的思考。相比於歐美強調個人隱私，亞洲國家往往更重視集體安全。中國大陸的AI監管較為嚴格，而台灣、香港等地則在平衡自由與安全方面面臨不同挑戰。