Microsoft Copilot AI 幻覺釀成執法大錯。英國警方誤禁足球迷入場
英國西米德蘭茲警方承認，因誤信 Microsoft Copilot 生成的 AI 幻覺情報，導致一場不存在的足球賽影響了真實執法，讓無辜球迷蒙受損失。
AI 捏造的謊言，竟然成了警方的執法依據。英國規模最大的警局之一西米德蘭茲警察局日前承認，其情報報告因直接採用了 Microsoft Copilot 生成的錯誤資訊，導致以色列足球迷在2025年的一場比賽中被無理禁止入場。
Microsoft Copilot AI 幻覺與警務自動化的風險
根據科技媒體 The Verge 報導，這起醜聞源於一份情報報告，其中包含了一場「西漢姆聯隊對陣特拉維夫馬加比」的虛構賽事。事實上，這場比賽在現實中從未發生，純屬 Microsoft Copilot 的「AI 幻覺」產物。遺憾的是，警方在未經人工查證的情況下，便將此內容納入正式的安保情報，最終引發了針對特定群體的限制措施。
西米德蘭茲警察局局長 Craig Guildford 表示，他在最近的一個週五下午才察覺這項嚴重的作業疏失。他公開承認：「這份涉及虛假賽果的報告，是過度依賴 Microsoft Copilot 的結果。」這次事件讓外界對政府機關導入 AI 工具時的審核流程，產生了極大的信任危機。
相关文章
Anthropic發布Opus 4.8，距上一版本僅41天。核心賣點不是更高分數，而是主動標記不確定性的能力。這個設計選擇，正在重新定義企業AI的信任標準。
Google I/O後，Sundar Pichai接受專訪談AI搜尋轉型、AGI時程與網路生態系衝擊。這對華人媒體、創作者與科技業意味著什麼？
從「說句好話就能破防」到需要深度技術知識的複雜攻擊，AI安全漏洞的演化揭示了一個更深層的問題：我們究竟在保護什麼？
Google AI概覽功能因「disregard」搜尋詞出現聊天機器人式回應的異常，揭示AI搜尋系統在提示注入攻擊下的脆弱性，以及搜尋引擎未來的信任危機。
Anthropic發布Opus 4.8，距上一版本僅41天。核心賣點不是更高分數，而是主動標記不確定性的能力。這個設計選擇，正在重新定義企業AI的信任標準。
Google I/O後，Sundar Pichai接受專訪談AI搜尋轉型、AGI時程與網路生態系衝擊。這對華人媒體、創作者與科技業意味著什麼？
從「說句好話就能破防」到需要深度技術知識的複雜攻擊，AI安全漏洞的演化揭示了一個更深層的問題：我們究竟在保護什麼？
Google AI概覽功能因「disregard」搜尋詞出現聊天機器人式回應的異常，揭示AI搜尋系統在提示注入攻擊下的脆弱性，以及搜尋引擎未來的信任危機。
观点
分享你对这篇文章的看法
登录加入讨论