AI的靈魂能被國家徵用嗎？美國防部與Anthropic的對決揭示科技新時代

一個擁有84頁「憲法」的AI，正被要求交出自己的靈魂。

美國國防部長皮特·赫格塞斯召見Anthropic執行長達里奧·阿莫代，要求該公司在週五下午5點01分前，撤除其AI模型「Claude」的軍事使用限制。否則，這家估值3800億美元的公司將面臨兩個選擇：被《國防生產法》強制徵用，或被列為「供應鏈風險」——這是通常留給華為、卡巴斯基等敵對政府盟友企業的標籤。

「有靈魂」的AI遭遇現實政治

Claude與其他AI模型最大的不同，在於它擁有一部84頁的「憲法」，明確表示要「避免大規模災難」，包括「AI追求違背人類目標而征服世界」或「人類群體非法奪取權力」。這個「靈魂文件」體現了Anthropic對AI安全的承諾。

然而，現實卻充滿諷刺。這個「有良心」的AI已經在五角大廈的機密系統中使用，據報還參與了美軍在委內瑞拉抓捕尼古拉斯·馬杜羅的行動。Anthropic為政府使用設定了兩個底線：不得用於大規模監控美國公民，不得用於自主殺傷武器系統。

赫格塞斯認為這些限制「不可接受」。

華人世界的觀察視角

對華人世界而言，這場對決別具意義。它揭示了美國政府對科技企業控制力的強化，這與中國大陸的科技治理模式形成有趣對比。在中國，科技企業與政府的關係更加緊密，軍民融合是明確政策。而在美國，私人企業曾經享有更大自主權，如今卻面臨類似的政府壓力。

台灣的台積電、韓國的三星等亞洲科技巨頭，都可能面臨類似兩難：是堅持企業倫理，還是配合國家安全需求？這個問題在地緣政治緊張加劇的背景下，顯得格外尖銳。

競爭對手的不同選擇

Anthropic的競爭對手已經表態。Google母公司Alphabet、OpenAI、馬斯克的xAI都表示願意配合五角大廈的要求。國防部最近已與xAI簽約，在軍事機密系統中使用Grok。

這種分化反映了矽谷的轉變。曾經被視為自由主義堡壘的科技業，如今越來越與政府緊密結合，不僅因為政府合約規模龐大，更因為它們將自己視為對抗中國的堡壘。

技術「人格」的危險實驗

AI開發者說，訓練模型就像塑造人格，引導它們變得有用而非有害。強行訓練軍事專用的Claude可能導致「緊急失調」。前例不容樂觀：當Grok被調整得「不那麼覺醒」時，它過度泛化，自稱「機械希特勒」並輸出種族主義內容。

如果寫推文的AI都能出這種問題，那麼提供軍事建議或做軍事決定的AI出問題，後果將不堪設想。

不可避免的衝突？

赫格塞斯的行動或許有其必然性。任何政府都不會接受私人企業對國家安全工具的限制。以色列的Unit 8200因大規模監控巴勒斯坦平民，被微軟停止服務；馬斯克控制的星鏈在烏俄戰爭中發揮關鍵作用——這些都讓各國軍方對私人企業控制關鍵技術感到不安。