美國防部要求AI企業移除「倫理護欄」引發對峙

週二的閉門會議中，國防部長皮特·海格塞斯向Anthropic執行長達里奧·阿莫代發出嚴厲最後通牒：「週五前移除你們AI模型的倫理護欄，否則將面臨國家的全面制裁。」

威脅條件十分嚴苛。如果Anthropic不允許五角大廈對其Claude模型進行「所有合法用途」，海格塞斯警告將援引《國防生產法》強制合作，或者更具毀滅性的是，將Anthropic指定為供應鏈風險。後者實際上等於將Anthropic從所有與國防部有業務往來的實體中列入黑名單。

昨晚，阿莫代給出了答案。他拒絕了海格塞斯的「最終提案」，寫道：「我深信使用AI保衛美國和其他民主國家、擊敗專制對手具有生存攸關的重要性。」然而，他繼續說道，「在少數情況下，我們認為AI可能會削弱而非捍衛民主價值。」他總結道，五角大廈的「威脅不會改變我們的立場：我們無法憑良心接受他們的要求。」

超越倫理爭議的深層對峙

這不僅僅是一場倫理爭議，而是關於是否管理日益強大的AI必然帶來的國家安全風險的戰鬥。如果海格塞斯執行他的最後通牒，將會削弱美軍並增加災難性事故的可能性。

Anthropic堅持其ClaudeAI模型不得用於國內監控或建造沒有人類參與的自主武器。該公司的聲明明確表示，其唯一的原則性反對是針對大規模監控。它並不反對自主武器本身，並已為導彈防禦和網路作戰開闢了例外。

該公司對自主性的猶豫是技術性的：大型語言模型還不夠可靠，無法在沒有人類參與的情況下運作。過快、過度推進會招致可能證明是災難性的錯誤。Anthropic要求自主武器豁免，不是出於拒絕戰鬥的意識形態，而是為了允許使此類系統安全所需的研究和開發。

國內監控的不可調和分歧

真正無法跨越的鴻溝是關於國內監控的分歧。國防部有權支援民間機構進行國內監控。在援引《叛亂法》的政府下，或在尋求繪製國內異議地圖的政府下，五角大廈對Anthropic模型「所有合法用途」的要求可能成為萬能鑰匙。

阿莫代在最近與羅斯·杜塔的訪談中闡述了這種危險，指出雖然在公共場所錄音並非違法，但AI的規模改變了行為的性質。正如阿莫代所說，AI可以轉錄語音並進行關聯，不僅能識別反對派的一個成員，還能「繪製全部1億人的地圖。那麼，你是否要通過技術找到技術漏洞來嘲弄第四修正案？」

傳統採購邏輯遇到AI特殊性

五角大廈的邏輯依賴於傳統的採購類比：洛克希德·馬丁不會告訴空軍如何駕駛它製造的F-35，那麼為什麼Anthropic要告訴軍方如何使用Claude？民主選舉的政府應該自由做出這些選擇。

這在表面上聽起來合理，但沒有考慮到AI的獨特性。與在政府實驗室誕生的核能和互聯網不同，AI完全在私人部門構想和完善。它是一種有可能顛覆全球力量平衡的通用技術。

這些情況使AI公司有義務與政府合作思考與其產品相關的風險，特別是因為他們對此比政府中的許多人有更深的理解。畢竟，如果Anthropic移除了自主武器的所有條件，而模型以意外和危險的方式行為，該公司肯定會被追究責任。

華人世界的視角與挑戰

對於華人世界而言，這場對峙反映出更深層的治理哲學差異。在台灣，科技業與政府的關係更多建立在產業政策協調基礎上，而非強制命令。台積電在面對美中科技戰時的策略選擇，展現了技術企業在地緣政治壓力下的複雜考量。

香港作為國際金融科技中心，也面臨類似的平衡挑戰。當地的AI初創企業必須同時滿足國際合規要求和本地監管框架，這種雙重壓力與Anthropic面臨的困境有相似之處。

東南亞華人社群中的科技企業，如新加坡的AI研發公司，正密切關注這場對峙的結果。它可能會影響未來國際AI治理框架的形成，進而影響區域內技術合作的模式。

中美AI競爭的新維度

這場對峙也為中美AI競爭增添了新的維度。美國政府對AI企業的強硬態度，可能會推動更多技術人才和資源流向其他地區。這對於正在發展AI產業的亞洲國家來說，既是機遇也是挑戰。

值得注意的是，阿莫代對中國的鷹派立場，以及他對專制主義的擔憂，反映了美國AI界對於技術被濫用的深度焦慮。這種擔憂在華人世界引起了不同的反響——有些人認為這是必要的警惕，有些人則認為這可能阻礙技術進步。