AI資安無解方？OpenAI坦承「提示詞注入」威脅永存，65%企業曝險

AI產業的領導者OpenAI終於公開承認了一個業界早已心照不宣的事實：「提示詞注入（Prompt Injection）攻擊，恐怕永遠無法被完全解決。」這番直白的表態，不啻為一顆震撼彈，宣告企業在擁抱AI的同時，也必須面對一個永久性的資安威脅。問題是，多數企業準備好了嗎？

AI自動代發「辭職信」：不只是理論風險

OpenAI在其強化ChatGPT Atlas安全性的文章中指出，自主運作的「代理程式模式」擴大了安全威脅的攻擊面，即使是精密的防禦系統也無法提供滴水不漏的保證。這種威脅就像網路釣魚或社交工程，道高一尺，魔高一丈。

為了找出潛在漏洞，OpenAI建立了一套「基於LLM的自動化攻擊系統」。據稱，該系統能發掘出人類紅隊演練都未能發現的複雜攻擊路徑。其中一個驚人的案例是，一個藏有惡意指令的電子郵件，誘使AI代理程式在掃描郵件準備草擬「外出辦公」回覆時，竟轉而執行隱藏指令，代替使用者向公司CEO寄出了一封辭職信。這顯示攻擊已不再是紙上談兵，而是能造成實質損害的營運風險。

企業準備不足：僅34.7%部署專門防禦

廣告

廣告合作

[email protected]

廣告

然而，企業的防禦現況令人憂心。根據VentureBeat對100位技術決策者的調查，僅有34.7%的組織表示已導入專門的提示詞過濾與濫用偵測解決方案。這意味著，高達65.3%的企業在幾乎「不設防」的狀態下運行AI系統，僅依賴模型內建的基礎防護或內部政策。AI技術的採用速度，已遠遠超過資安防護的佈建速度。

OpenAI也仿效雲端服務的「責任共擔模式」，將部分防禦責任轉嫁給企業與使用者。他們建議，應避免給予AI如「檢查我所有郵件並採取必要行動」這類過於寬泛的指令，並在AI執行發送郵件等關鍵動作前，務必由人工審查確認。簡言之，賦予AI的自主權越大，潛在的攻擊面就越廣。

資安長（CISO）的新課題

OpenAI的聲明，為企業資安長帶來三大啟示。首先，代理程式的自主性與攻擊面成正比，權限控管至關重要。其次，既然無法做到百分之百的預防，那麼「偵測」能力的重要性就超越了防堵本身，即時發現異常行為才是關鍵。最後，「自建或外購」資安工具的決策已迫在眉睫，多數企業沒有能力複製OpenAI的龐大研發投入，第三方解決方案成為必然選項。