AI 代理人全面接管：你的個人數據還安全嗎？

AI 產業的下一步，是全面進駐你的數位生活。過去，我們用個人數據換取 Google、Facebook 等科技巨頭的「免費」服務，但新一代的 生成式 AI 系統想要的，可能遠不止於此。它們正朝著需要完全訪問你系統與數據的「AI 代理人」方向發展。

從 OpenAI 的 ChatGPT 到 Google 的 Gemini，這些 AI 工具已不再滿足於單純的文字聊天。科技巨頭們正大力推動能為你代勞、完成任務的「代理人」或「助理」。但問題在於，要讓它們發揮最大功用，你就必須授予它們訪問你所有系統與數據的權限。

AI 代理人：是幫手還是間諜？

所謂的 AI 代理人，本質上是獲得一定自主權的 生成式 AI 或 LLM（大型語言模型）。它們可以為你預訂航班、進行研究，甚至完成包含數十個步驟的複雜任務。然而，其效用的關鍵，來自於對數據的訪問權限。若想讓它安排行程，就必須開放你的日曆、訊息和電子郵件。

英國艾達·勒芙蕾絲研究所（Ada Lovelace Institute）高級研究員哈里·法默（Harry Farmer）指出，AI 助理可能對網路安全和隱私構成「深遠威脅」。他表示：「AI 代理人要發揮全部功能，往往需要訪問你設備的操作系統層級。」

廣告

廣告合作

[email protected]

廣告

隱私蕩然無存的未來

現代 AI 產業對數據權利的尊重向來備受質疑。從 Clearview 等公司抓取數百萬張網路照片，到 AI 公司未經許可複製大量書籍來訓練 LLM，數據爭奪戰早已白熱化。備受爭議的 MicrosoftRecall 功能，甚至會 每隔幾秒 就對你的桌面進行截圖。

牛津大學副教授卡麗莎·維利茲（Carissa Véliz）直言：「這些公司對待數據非常隨便。消費者幾乎沒有辦法查核它們是否遵守承諾。」更嚴峻的是，當 AI 代理人訪問你的聯絡人與郵件時，與你互動的其他人，其數據也在未經同意下被一併取用。

開發者吹響反擊號角

這種趨勢引發了強烈反彈。加密通訊軟體 Signal 的總裁梅瑞迪斯·惠特克（Meredith Whittaker）向《連線》雜誌表示，能夠訪問設備上所有內容的代理人，對 Signal 等級的應用程式隱私構成了「生存威脅」。她呼籲：「我們要求的是非常明確的開發者層級退出權，可以直接說『如果你是代理人，就他媽的別碰我們』。」