一個英文字讓Google AI當機了
Google AI概覽功能因「disregard」搜尋詞出現聊天機器人式回應的異常,揭示AI搜尋系統在提示注入攻擊下的脆弱性,以及搜尋引擎未來的信任危機。
一個普通的英文單字,讓全球最大搜尋引擎的AI系統說出了「好的,有需要再找我!」
事件經過
2026年5月22日,Google的AI概覽(AI Overviews)功能出現了一個引人注目的異常。當用戶搜尋「disregard(無視/忽略)」這個詞時,搜尋結果頂部出現的不是正常的AI摘要,而是一段像聊天機器人結束對話的回應:「Got it. If you need anything else or have a new question later, just let me know!(好的,如果還有其他問題,隨時告訴我!)」
這個截圖在X平台上迅速傳播,科技媒體The Verge等隨即跟進報導。到了同日下午,Google已悄悄停止對「disregard」顯示AI概覽,改為展示關於此事件的新聞列表——一個頗為自我指涉的處理方式。目前Google尚未就此事件發表正式的技術說明。
這不只是一個有趣的Bug
要理解這件事為何值得關注,需要先了解AI概覽的運作邏輯。Google的AI概覽功能建立在大型語言模型(LLM)之上,這些模型依照內部「系統提示」(system prompt)運作——那是一組告訴AI「你是什麼、你該怎麼做」的隱藏指令。
「disregard」這個詞在AI安全領域有特殊含義。所謂「提示注入攻擊」(Prompt Injection),正是透過在輸入中加入「忽略之前的指令」、「無視系統設定」等語句,試圖讓AI偏離原本的行為規範。今回事件顯示,Google的AI可能將搜尋詞本身誤解為一種指令,進而觸發了預設的對話結束回應。
換言之,這個系統被自己的訓練邏輯「欺騙」了。
對華人數位世界意味著什麼
這個事件的影響範圍遠不止於英語世界。
在台灣、香港及東南亞華人社群中,Google是主要搜尋工具,AI概覽功能的可靠性直接影響數千萬用戶每天獲取資訊的方式。2025年,Google AI概覽已在100多個國家上線,每日影響數十億次搜尋。如果系統對一個英文詞就能產生如此偏差,中文語境下的潛在風險更值得追問——中文的語義模糊性、多義詞、以及繁簡體差異,都可能成為類似漏洞的觸發點。
對於數位行銷從業者而言,這個事件揭示了一個令人不安的現實:當AI概覽主導搜尋結果頁面時,品牌資訊如何被AI詮釋和呈現,已成為新的競爭戰場。一個被AI誤解的關鍵字,可能讓精心規劃的SEO策略瞬間失效。
從地緣政治角度看,這也是一個微妙的時間點。在中美科技競爭持續升溫的背景下,百度、字節跳動等中國科技公司正積極推進自家AI搜尋產品。Google此次的失誤,無論多麼短暫,都會被競爭對手視為「AI搜尋尚不成熟」的佐證,並在市場敘事中加以利用。
各方如何解讀
對一般用戶而言,這個Bug或許只是社群媒體上的一個笑梗。但對於依賴搜尋引擎獲取醫療、法律、財務資訊的用戶來說,AI系統的不穩定性是切實的風險。
AI安全研究者則會從不同角度看待此事:這是一個相對無害的公開案例,但它暗示著更嚴重的可能性——如果惡意行為者能系統性地操縱AI搜尋結果,後果將遠超一句錯誤的客服回應。
Google的處理方式——直接關閉該詞的AI概覽而非修復後重啟——也引發了技術社群的討論:這是謹慎的危機管理,還是承認了系統存在更深層的問題?
本內容由AI根據原文進行摘要和分析。我們力求準確,但可能存在錯誤,建議核實原文。
相關文章
Anthropic發布Opus 4.8,距上一版本僅41天。核心賣點不是更高分數,而是主動標記不確定性的能力。這個設計選擇,正在重新定義企業AI的信任標準。
YouTube推出AI自訂動態消息功能,用戶輸入文字描述即可生成個人化影片清單。這項改變對內容創作者、廣告主與亞洲市場意味著什麼?
美國司法部起訴Google資深工程師,指控其利用公司機密資料在Polymarket獲利逾120萬美元。區塊鏈的透明性讓犯罪無所遁形,但預測市場的監管灰色地帶仍是全球難題。
新型側信道攻擊FROST利用SSD時序測量,可追蹤用戶在其他分頁的瀏覽行為與開啟的應用程式,挑戰現有隱私保護架構。
觀點
分享您對這篇文章的看法
登入加入討論