一個英文字讓Google AI當機了
Google AI概覽功能因「disregard」搜尋詞出現聊天機器人式回應的異常,揭示AI搜尋系統在提示注入攻擊下的脆弱性,以及搜尋引擎未來的信任危機。
一個普通的英文單字,讓全球最大搜尋引擎的AI系統說出了「好的,有需要再找我!」
事件經過
2026年5月22日,Google的AI概覽(AI Overviews)功能出現了一個引人注目的異常。當用戶搜尋「disregard(無視/忽略)」這個詞時,搜尋結果頂部出現的不是正常的AI摘要,而是一段像聊天機器人結束對話的回應:「Got it. If you need anything else or have a new question later, just let me know!(好的,如果還有其他問題,隨時告訴我!)」
這個截圖在X平台上迅速傳播,科技媒體The Verge等隨即跟進報導。到了同日下午,Google已悄悄停止對「disregard」顯示AI概覽,改為展示關於此事件的新聞列表——一個頗為自我指涉的處理方式。目前Google尚未就此事件發表正式的技術說明。
這不只是一個有趣的Bug
要理解這件事為何值得關注,需要先了解AI概覽的運作邏輯。Google的AI概覽功能建立在大型語言模型(LLM)之上,這些模型依照內部「系統提示」(system prompt)運作——那是一組告訴AI「你是什麼、你該怎麼做」的隱藏指令。
「disregard」這個詞在AI安全領域有特殊含義。所謂「提示注入攻擊」(Prompt Injection),正是透過在輸入中加入「忽略之前的指令」、「無視系統設定」等語句,試圖讓AI偏離原本的行為規範。今回事件顯示,Google的AI可能將搜尋詞本身誤解為一種指令,進而觸發了預設的對話結束回應。
換言之,這個系統被自己的訓練邏輯「欺騙」了。
對華人數位世界意味著什麼
這個事件的影響範圍遠不止於英語世界。
在台灣、香港及東南亞華人社群中,Google是主要搜尋工具,AI概覽功能的可靠性直接影響數千萬用戶每天獲取資訊的方式。2025年,Google AI概覽已在100多個國家上線,每日影響數十億次搜尋。如果系統對一個英文詞就能產生如此偏差,中文語境下的潛在風險更值得追問——中文的語義模糊性、多義詞、以及繁簡體差異,都可能成為類似漏洞的觸發點。
對於數位行銷從業者而言,這個事件揭示了一個令人不安的現實:當AI概覽主導搜尋結果頁面時,品牌資訊如何被AI詮釋和呈現,已成為新的競爭戰場。一個被AI誤解的關鍵字,可能讓精心規劃的SEO策略瞬間失效。
從地緣政治角度看,這也是一個微妙的時間點。在中美科技競爭持續升溫的背景下,百度、字節跳動等中國科技公司正積極推進自家AI搜尋產品。Google此次的失誤,無論多麼短暫,都會被競爭對手視為「AI搜尋尚不成熟」的佐證,並在市場敘事中加以利用。
各方如何解讀
對一般用戶而言,這個Bug或許只是社群媒體上的一個笑梗。但對於依賴搜尋引擎獲取醫療、法律、財務資訊的用戶來說,AI系統的不穩定性是切實的風險。
AI安全研究者則會從不同角度看待此事:這是一個相對無害的公開案例,但它暗示著更嚴重的可能性——如果惡意行為者能系統性地操縱AI搜尋結果,後果將遠超一句錯誤的客服回應。
Google的處理方式——直接關閉該詞的AI概覽而非修復後重啟——也引發了技術社群的討論:這是謹慎的危機管理,還是承認了系統存在更深層的問題?
本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。
相关文章
Google I/O上,DeepMind執行長宣稱「站在奇點山麓」。從AlphaFold到Gemini for Science,科學AI的典範正在轉移,這對亞洲科研與產業意味著什麼?
Google正在打造一個AI代替用戶主動搜尋的世界。當搜尋行為本身消失,資訊取得的主導權將落在誰手中?這對華人世界的科技生態與資訊環境意味著什麼?
Spotify與環球音樂集團達成生成式AI授權協議,允許用戶製作AI翻唱與混音,並與藝人分潤。這個模式能否終結AI音樂的法律混戰?對華語音樂市場意味著什麼?
AI新創Hark完成7億美元A輪融資,估值60億美元,卻幾乎未透露產品細節。這筆錢買的是什麼?AI消費性硬體的空白市場有多大?
观点
分享你对这篇文章的看法
登录加入讨论