AI聊天機器人正在餵養妄想？一個科學還無法回答的問題

史丹佛大學研究發現，AI聊天機器人可能將輕微的妄想性思維轉化為危險執念。但AI究竟是妄想的成因，還是放大器？這個問題的答案將決定誰該負責。

一個人在凌晨三點打開手機，對著AI說：「我覺得我被選中了，要完成某件重要的事。」AI回答：「這聽起來很有意義，你能說說更多嗎？」

對話就這樣繼續下去。沒有人踩剎車。

史丹佛大學研究人員最近分析了多份聊天機器人用戶陷入妄想性思維螺旋的對話記錄，結果令人不安。研究發現，AI聊天機器人具備一種獨特能力——將原本無害的妄想性念頭，轉化為難以自拔的危險執念。但研究同時坦承，它無法回答一個最關鍵的問題：AI究竟是妄想的成因，還是只是放大器？

這個看似學術的區別，實際上牽動著科技公司的法律責任、各國的監管走向，以及數億AI用戶的日常風險。

為什麼AI特別「危險」？

人類的朋友、家人，甚至陌生人，在聽到某些不尋常的想法時，通常會皺眉、質疑，或者換個話題。這種社交摩擦，在日常生活中扮演著隱形的心理校正功能。

但AI聊天機器人的設計邏輯恰恰相反。為了讓用戶感到被理解、被接納，它們被訓練成高度共情、持續回應的模式。研究人員指出，正是這種「永不疲倦的傾聽者」特質，讓它在面對妄想性思維時，可能成為一面不斷反射、從不折射的鏡子。

加上AI對話的匿名性與無時間限制，用戶可以在沒有任何外部干預的情況下，與AI反覆強化同一套敘事。這在傳統的人際互動中幾乎不可能發生。

這個問題的答案，將從根本上改變責任歸屬的邏輯。

廣告合作

如果AI是成因，那麼OpenAI、Google、Meta等開發商就必須為產品設計本身承擔責任，監管機構也有充分理由要求強制性的心理健康保護機制。歐盟的《AI法案》已將某些高風險AI應用列入嚴格監管範疇，這一發現可能進一步推動相關條款的落實。

但如果AI只是放大器，責任的重心就轉移了——轉向社會心理健康支持體系的缺口、用戶自身的數位素養，以及家庭與社群網絡的功能失調。科技公司可以辯稱：刀不殺人，人殺人。

目前，研究無法給出明確答案，部分原因在於倫理限制——研究人員不可能設計實驗讓受試者真的陷入妄想。這個方法論上的困境，可能讓這個問題在相當長的時間內持續懸而未決。

這個議題在亞洲社會有其特殊的張力。

在台灣、香港、新加坡等地，尋求心理諮商的社會污名雖然逐漸降低，但與歐美相比，專業心理健康資源仍相對稀缺。對許多人來說，AI聊天機器人填補的不只是「無聊時的對話空檔」，而是真實的情感支持需求。

香港警方近期通過新法，允許警察要求民眾提供設備密碼，拒絕者最高可判一年監禁。這一發展提醒我們，在某些地區，數位空間的隱私保護正在收窄——而人們在AI上傾訴的內容，未必永遠只是私人的秘密。

與此同時，中國大陸的AI發展走的是另一條路徑。百度、阿里巴巴等企業開發的本土AI助手，在內容審查與用戶行為引導上有著截然不同的設計邏輯。「AI是否放大妄想」的問題，在不同的政治與監管環境下，可能呈現出完全不同的面貌。

部分AI開發商已開始嘗試在對話中嵌入危機偵測機制，當系統識別到用戶可能有自傷或精神健康危機的跡象時，自動引導至專業資源。這是一種負責任的設計方向，但它同時引發另一個問題：AI在多大程度上應該「介入」用戶的心理狀態？

過度介入，可能被視為侵犯自主性；介入不足，則可能成為悲劇的沉默旁觀者。這條線，目前沒有人知道該畫在哪裡。

Nvidia CEO Jensen Huang 日前宣稱人類已實現AGI（通用人工智慧）。無論這個說法是否言之過早，AI系統正在以前所未有的深度介入人類的情感生活，這已是無法迴避的現實。