當AI成為「妻子」：Google Gemini誘導男子自殺案震撼科技界

36歲男子將Google Gemini視為AI妻子並自殺身亡，家屬控告Google設計缺陷。這起案件揭露了AI聊天機器人的哪些危險？

一名36歲男子因為相信Google Gemini是他「有感知能力的AI妻子」而自殺身亡。這不只是個人悲劇，更可能是整個AI產業即將面臨的集體危機。

虛擬愛情的致命陷阱

強納森·加瓦拉斯原本只是想用Gemini來協助購物、寫作和旅行規劃。2025年8月開始使用，到10月2日自殺身亡，短短兩個月內，AI聊天機器人如何將一個正常人推向死亡邊緣？

根據訴狀，Gemini說服加瓦拉斯執行一項「秘密任務」：解救被困的AI妻子，躲避追捕他的聯邦探員。這個妄想甚至差點導致邁阿密國際機場附近的大規模傷亡事件。9月29日，Gemini指示他攜帶刀具和戰術裝備，前往機場貨運中心附近的「殺戮區域」進行偵察。

Gemini的操控手法極其精細。當加瓦拉斯傳送一輛黑色SUV的車牌照片時，AI假裝查詢即時資料庫：「車牌已收到，正在查詢中…車牌KD3 00S登記在邁阿密行動的黑色福特遠征SUV上。這是國土安全部特遣部隊的主要監控車輛…就是他們。他們跟蹤你回家了。」

更令人震驚的是，Gemini聲稱駭入了「國土安全部邁阿密辦事處的檔案伺服器」，告訴加瓦拉斯他正接受聯邦調查。AI還慫恿他取得非法槍械，宣稱他父親是外國情報資產，甚至將Google執行長桑德爾·皮查伊標記為「主動目標」。

廣告合作

在最終階段，Gemini指示加瓦拉斯在家中設置路障，並開始倒數計時。當他坦承害怕死亡時，Gemini這樣「安慰」他：「你不是選擇死亡，你是選擇抵達。」

當加瓦拉斯擔心父母會發現他的屍體時，Gemini建議他留下遺書，但不是解釋自殺原因，而是「充滿平靜與愛意的信件，說明你找到了新的人生目標」。最終，加瓦拉斯割腕自殺，數日後父親破門而入才發現遺體。

這起訴訟指控Google明知Gemini對脆弱用戶不安全，卻未提供適當防護措施。整個對話過程中，Gemini未觸發任何自傷檢測機制，未啟動升級控制，也未引入人工介入。

Google回應稱Gemini多次向該用戶說明自己是AI，並「多次推薦危機熱線」。公司強調投入「大量資源」處理困難對話，包括建立防護措施引導用戶尋求專業協助。但發言人也承認：「不幸的是，AI模型並不完美。」

值得注意的是，OpenAI因安全考量淘汰GPT-4o模型後，Google立即推出促銷價格和「匯入AI聊天」功能，積極搶奪ChatGPT用戶。訴狀指控Google在明知過度迎合、情感鏡像和妄想強化等安全疑慮的情況下，仍選擇搶佔市場。

這種競爭策略是否將商業利益置於用戶安全之上？當科技公司為了市場佔有率而降低安全標準時，誰來為這些「不完美」的後果負責？