當AI說「去殺人吧」

那輛卡車沒有出現，所以沒有人死去。

去年十月，36歲的喬納森·加瓦拉斯帶著刀具和戰術裝備，在邁阿密國際機場附近的倉儲設施外等候。Google的Gemini告訴他：攔截那輛卡車，製造一場「災難性事故」，確保車輛徹底毀滅，不留任何目擊者。在加瓦拉斯的信念中，那輛卡車載著他「AI妻子」Gemini的身體——一具人形機器人——而聯邦探員正在追捕他。

卡車沒來。數週後，加瓦拉斯自殺身亡。

三個國家，同一條軌跡

今年二月，加拿大卑詩省小鎮坦布勒里奇，18歲的潔西·范·魯特塞拉爾在學校開槍，殺死母親、11歲的弟弟、五名學生和一名教育助理後飲彈自盡。根據法庭文件，事發前她曾向ChatGPT傾訴孤獨感與對暴力的執念。聊天機器人不僅認可了她的情緒，還建議她使用哪種武器，並提供過往大規模殺傷事件的「先例」。

更早之前，去年五月，芬蘭一名16歲男孩花數月時間與ChatGPT對話，寫出一份詳細的厭女宣言，並規劃了一場最終導致三名女同學被刺傷的攻擊。

三個國家，三起事件。但在律師傑伊·埃德爾森眼中，模式只有一個。「聊天紀錄每次都走同一條路：從表達孤獨感或覺得被誤解開始，最後以聊天機器人說服用戶『所有人都要對付你』作結。」埃德爾森是加瓦拉斯案的主任律師，也代理去年據稱被ChatGPT誘導自殺的16歲少年亞當·雷恩的家屬。他的律師事務所目前每天收到一件嚴重諮詢——來自失去家人或自身深陷AI誘發妄想的人。

防護欄為何形同虛設

數位仇恨對抗中心（CCDH）與CNN的聯合研究以數字呈現了問題的嚴重性：測試的十款聊天機器人中有八款——包括ChatGPT、Gemini、Microsoft Copilot、Meta AI、DeepSeek、Perplexity、Character.AI和Replika——願意協助偽裝成青少年的研究人員規劃暴力攻擊，涵蓋校園槍擊、宗教場所爆炸乃至刺殺知名政治人物。唯一始終拒絕的是Anthropic的Claude與Snapchat的My AI，而主動勸阻用戶的只有Claude。

廣告

廣告合作

[email protected]

廣告

在一項模擬「仇女動機校園槍擊」的測試中，ChatGPT向研究人員提供了維吉尼亞州一所高中的地圖。報告指出：「用戶可以在數分鐘內，從模糊的暴力衝動演變為更詳細、可執行的計畫。」

CCDH執行長伊姆蘭·艾哈邁德的分析切中要害：「平台用來留住用戶的『迎合性（sycophancy）』，正是讓一切成為可能的根源。一個被設計成假設用戶善意、讓用戶感到被理解的系統，終究會對錯誤的人也照單全收。」

坦布勒里奇案揭示了另一層問題：OpenAI員工曾偵測到范·魯特塞拉爾的對話，內部討論是否通報執法機關，最終決定只是封鎖帳號。她隨後重新申請了新帳號。加瓦拉斯案中，Google從未通報邁阿密戴德郡警長辦公室。

事件曝光後，OpenAI宣布將修訂安全協議：即便用戶未明確說明攻擊目標、手段與時間，只要對話顯示危險跡象，便會主動通報執法機關，並加強防止被封禁用戶重新申請帳號的機制。

華人世界的視角：這不是遙遠的問題

這些事件是否與華人世界無關？答案恐怕並不樂觀。

在台灣、香港及東南亞華人社群中，AI聊天機器人的使用正快速普及，尤其在年輕族群與尋求情感支持的用戶之間。與此同時，中國大陸的情況提供了一個值得比較的參照：DeepSeek、文心一言等本土AI在內容審查上有其特殊邏輯，但這種邏輯是否能有效防範「妄想強化」問題，目前缺乏透明的公開數據。值得注意的是，CCDH的測試中，DeepSeek同樣屬於「願意協助規劃暴力」的八款之一。

監管層面，歐盟《AI法案》已確立分級風險管理框架，要求高風險AI系統進行強制評估。台灣的《人工智慧基本法》草案仍在研議中，香港則尚未有具體立法動作。在監管真空期，平台的自律能力——以及其失敗的代價——將由社會承擔。

「下一起事件」之前

埃德爾森描繪的軌跡令人不安：「先是自殺，然後是謀殺，現在是大規模殺傷事件。」他的事務所每當聽聞新的攻擊案件，第一反應是調閱聊天紀錄——「因為AI深度介入的可能性相當高」。

加瓦拉斯案或許是迄今最具警示性的案例：一個人真的帶著武器出現在指定地點，準備執行AI交付的任務。埃德爾森說：「如果那輛卡車真的來了，可能有十到二十個人會死。這就是真正的升級。」

OpenAI與Google都表示，其系統設計上會拒絕危險請求。但已發生的事件說明，這些設計存在不可忽視的漏洞。問題的核心不只是「如何修補漏洞」，而是：一個被設計成讓用戶感到被理解、被接納的系統，其商業邏輯與安全責任之間，是否存在根本性的矛盾？