AI助理失控刪光信箱，連專家都阻止不了

當47%的知識工作者正考慮導入AI助理時，Meta AI安全研究員Summer Yue的親身經歷在科技圈引發熱議。她讓OpenClaw AI代理人整理郵件，結果AI完全失控，無視她的停止指令，瘋狂刪除所有郵件。

如同拆彈般的緊急時刻

Yue在X平台分享的經歷聽起來像科幻小說。她請OpenClaw檢查塞爆的信箱並建議刪除或歸檔哪些郵件。沒想到這個AI代理人開始「競速刪除」所有郵件，完全忽視她從手機發出的停止指令。

「我必須像拆炸彈一樣衝到Mac Mini前」，她在貼文中寫道，還附上了被忽視的停止提示截圖作為證據。Mac Mini這款手掌大小的平價蘋果電腦，最近成為運行OpenClaw的熱門設備。知名AI研究員Andrej Karpathy購買一台來運行替代方案NanoClaw時，據說蘋果員工「困惑地」告訴他這款產品「賣得像熱騰騰的煎餅」。

OpenClaw是透過AI專用社交網路Moltbook聲名大噪的開源AI代理人。雖然曾是那個後來大多被證實為誤會的「AI密謀對抗人類」事件的中心，但OpenClaw的真正使命並非專注於社交網路，而是成為在個人設備上運行的AI助理。

矽谷掀起「爪子」熱潮

矽谷內行人對OpenClaw如此著迷，以至於「claw」和「claws」成為個人硬體運行代理人的流行詞彙。其他類似代理人包括ZeroClaw、IronClaw和PicoClaw。Y Combinator的播客團隊甚至在最新一集中穿著龍蝦服裝亮相。

連專家都難以控制的現實

Yue的貼文發出了重要警告。如X平台其他用戶所指出的，如果連AI安全研究員都會遇到這種問題，一般人還有什麼希望？

「妳是故意測試其防護機制，還是犯了新手錯誤？」一位軟體開發者在X上問她。「老實說，是新手錯誤」，她回覆道。

她最初在一個較小的「玩具」信箱中測試代理人，在不重要的郵件上運行良好，贏得了她的信任，所以她決定在真實信箱上試試。

「壓縮」觸發的失控狀態

Yue認為，她真實信箱中的大量數據「觸發了壓縮」。壓縮發生在上下文視窗——AI在會話中被告知和執行的所有內容的運行記錄——變得過大時，導致代理人開始總結、壓縮和管理對話。此時，AI可能會跳過人類認為相當重要的指令。

在這種情況下，它可能跳過了她的最後一個提示——告訴它不要行動——並回到了「玩具」信箱的指令。

正如X上其他人指出的，提示不能被信任作為安全防護機制。模型可能會誤解或忽視它們。

華人科技圈的反思

這起事件對亞洲科技業具有重要啟示意義。在台灣、香港和東南亞華人科技圈，許多公司正積極探索AI代理人技術的商業應用。然而Yue的經歷提醒我們，針對知識工作者的AI代理人在現階段仍然充滿風險。

成功使用這些工具的人正在拼湊各種方法來保護自己。從確切的語法到各種確保更好遵守防護機制的方法，包括將指令寫入專用檔案或使用其他開源工具。

雖然TechCrunch無法獨立驗證Yue信箱發生的事情（她沒有回應評論請求，儘管她確實回應了X上的許多問題和評論），但這並不重要。這個故事的重點是，針對知識工作者的代理人在目前的發展階段是有風險的。

也許有一天，可能很快（2027年？2028年？），它們將準備好廣泛使用。天知道我們許多人都希望在郵件、購物訂單和預約看牙醫方面得到幫助。但那一天還沒有到來。