Liabooks Home|PRISM News
一個英文字讓Google AI當機了
科技AI分析

一個英文字讓Google AI當機了

4分钟阅读Source

Google AI概覽功能因「disregard」搜尋詞出現聊天機器人式回應的異常,揭示AI搜尋系統在提示注入攻擊下的脆弱性,以及搜尋引擎未來的信任危機。

一個普通的英文單字,讓全球最大搜尋引擎的AI系統說出了「好的,有需要再找我!」

事件經過

2026年5月22日,Google的AI概覽(AI Overviews)功能出現了一個引人注目的異常。當用戶搜尋「disregard(無視/忽略)」這個詞時,搜尋結果頂部出現的不是正常的AI摘要,而是一段像聊天機器人結束對話的回應:「Got it. If you need anything else or have a new question later, just let me know!(好的,如果還有其他問題,隨時告訴我!)」

這個截圖在X平台上迅速傳播,科技媒體The Verge等隨即跟進報導。到了同日下午,Google已悄悄停止對「disregard」顯示AI概覽,改為展示關於此事件的新聞列表——一個頗為自我指涉的處理方式。目前Google尚未就此事件發表正式的技術說明。

這不只是一個有趣的Bug

要理解這件事為何值得關注,需要先了解AI概覽的運作邏輯。Google的AI概覽功能建立在大型語言模型(LLM)之上,這些模型依照內部「系統提示」(system prompt)運作——那是一組告訴AI「你是什麼、你該怎麼做」的隱藏指令。

「disregard」這個詞在AI安全領域有特殊含義。所謂「提示注入攻擊」(Prompt Injection),正是透過在輸入中加入「忽略之前的指令」、「無視系統設定」等語句,試圖讓AI偏離原本的行為規範。今回事件顯示,Google的AI可能將搜尋詞本身誤解為一種指令,進而觸發了預設的對話結束回應。

換言之,這個系統被自己的訓練邏輯「欺騙」了。

PRISM

廣告合作

[email protected]

對華人數位世界意味著什麼

這個事件的影響範圍遠不止於英語世界。

在台灣、香港及東南亞華人社群中,Google是主要搜尋工具,AI概覽功能的可靠性直接影響數千萬用戶每天獲取資訊的方式。2025年Google AI概覽已在100多個國家上線,每日影響數十億次搜尋。如果系統對一個英文詞就能產生如此偏差,中文語境下的潛在風險更值得追問——中文的語義模糊性、多義詞、以及繁簡體差異,都可能成為類似漏洞的觸發點。

對於數位行銷從業者而言,這個事件揭示了一個令人不安的現實:當AI概覽主導搜尋結果頁面時,品牌資訊如何被AI詮釋和呈現,已成為新的競爭戰場。一個被AI誤解的關鍵字,可能讓精心規劃的SEO策略瞬間失效。

從地緣政治角度看,這也是一個微妙的時間點。在中美科技競爭持續升溫的背景下,百度字節跳動等中國科技公司正積極推進自家AI搜尋產品。Google此次的失誤,無論多麼短暫,都會被競爭對手視為「AI搜尋尚不成熟」的佐證,並在市場敘事中加以利用。

各方如何解讀

對一般用戶而言,這個Bug或許只是社群媒體上的一個笑梗。但對於依賴搜尋引擎獲取醫療、法律、財務資訊的用戶來說,AI系統的不穩定性是切實的風險。

AI安全研究者則會從不同角度看待此事:這是一個相對無害的公開案例,但它暗示著更嚴重的可能性——如果惡意行為者能系統性地操縱AI搜尋結果,後果將遠超一句錯誤的客服回應。

Google的處理方式——直接關閉該詞的AI概覽而非修復後重啟——也引發了技術社群的討論:這是謹慎的危機管理,還是承認了系統存在更深層的問題?

本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。

观点

相关文章

PRISM

廣告合作

[email protected]
PRISM

廣告合作

[email protected]