AI安全理想破滅：當企業無法對軍方說不

當Anthropic的AI模型拒絕協助美軍開發自主武器時，五角大廈的反應簡單粗暴：將這家公司列為「供應鏈風險」，禁止所有政府機構與其合作。這個決定不僅終結了雙方的合作關係，更象徵著AI安全理想在現實政治面前的脆弱。

2026年2月，當國防部長皮特·赫格塞斯宣布制裁Anthropic時，整個AI產業為之震動。這家以AI安全著稱的公司，因為堅持不讓其Claude模型用於自主武器和大規模監控而付出了慘重代價。更諷刺的是，OpenAI立即填補了這個空缺，與五角大廈簽署新合約。

從合作到對抗的轉折

事情的起因看似簡單：Anthropic堅持在合約中明確禁止軍方將其AI用於殺傷性自主武器。但五角大廈要求移除這些「紅線」，理由是不能讓民間公司限制軍方的行動。當Anthropic拒絕妥協時，政府的報復來得迅速而嚴厲。

這場衝突揭示了一個更深層的問題：在沒有國際協議約束的情況下，每個先進軍事力量都必須在AI技術上全力以赴，僅僅是為了不落後於對手。正如文章所言，AI軍備競賽現在看來已不可避免。

「向上競爭」的幻滅

幾年前，AI公司們還在談論「向上競爭」（race to the top）的理想——各公司在安全標準上相互競爭，推動整個行業提升。Anthropic的「負責任擴展政策」曾是這種理念的典範，DeepMind和OpenAI也曾採納類似框架。

但現實證明這種理想過於天真。隨著投資資金激增，公司間競爭加劇，聯邦監管前景渺茫，Anthropic在2月24日的聲明中坦承：「政策環境已轉向優先考慮AI競爭力和經濟增長，而安全導向的討論尚未在聯邦層面獲得有意義的進展。」

華人科技圈的啟示

對於華人科技企業而言，這場風波提供了寶貴的教訓。在中美科技競爭加劇的背景下，台灣的台積電、香港的科技公司，以及東南亞的華人企業都面臨著相似的兩難：如何在追求技術領先的同時，維持道德底線？

特別值得關注的是，當美國政府可以如此輕易地將一家堅持道德原則的公司列為「風險」時，其他國家的企業還能指望什麼樣的國際保護？這種單邊制裁的威脅，可能會讓更多公司在面臨類似選擇時選擇妥協。

OpenAICEO山姆·阿爾特曼聲稱接手五角大廈合約是為了「減輕對Anthropic的壓力」，但AnthropicCEO達里奧·阿莫代在內部備忘錄中毫不客氣地回擊：「山姆試圖在表面支持我們的同時暗中破壞我們的立場。」這種公開的相互指責，顯示了AI產業內部競爭的激烈程度。

軍事AI的潘朵拉盒子

最令人擔憂的是，關於AI軍事應用的國際辯論幾乎不存在。我們何時討論過創造成群致命自主無人機的利弊？這些機器掃描戰場、巡邏邊境、監視毒販的場景，似乎已經成為既定事實，而非需要全球共識的重大決策。

當被問及如果赫格塞斯認為移除安全限制攸關士兵生死時會怎麼辦，沒有人能給出令人信服的答案。《國防生產法》賦予政府接管私人公司的權力，這意味著即使是最堅持的企業，最終也可能無法阻止技術被濫用。

亞洲的不同路徑？

在這種背景下，亞洲國家是否能走出不同的道路？日本的謹慎、新加坡的務實、韓國的創新，以及台灣在半導體領域的經驗，或許能為全球AI治理提供替代方案。

但現實是殘酷的。正如Anthropic的阿莫代所說：「這就是陷阱。AI如此強大，如此誘人，以至於人類文明很難對其施加任何約束。」