AI創造者失去控制權的那一刻

廣島原爆投下的那個早晨，沒有人打電話給奧本海默。

在新墨西哥州沙漠完成人類史上第一次核試爆的科學家們，幾週後發現自己對這個武器的命運毫無發言權。武器被裝上卡車運走，此後再也沒有人徵詢他們的同意。

80年後，Anthropic執行長達里奧·阿莫代伊撞上了同一堵牆。

「愛的機器」遭遇戰爭邏輯

阿莫代伊是AI產業裡最具思想深度的樂觀主義者之一。他那篇1萬5千字的宣言〈愛的機器〉描繪了一幅壯麗圖景：AI即將創造出超越諾貝爾獎得主的「天才之國」，壓縮數十年的科學進程，在2035年前治癒癌症、感染性疾病，並將人類壽命延長一倍。Google DeepMind的德米斯·哈薩比斯和OpenAI的山姆·奧特曼，也有類似的宏大願景——奧特曼甚至聲稱AI可能解開物理學的終極謎題。

然而阿莫代伊同時也是AI領域最警惕風險的聲音之一。他將今日的AI研究者比作曼哈頓計畫的科學家，認為超人類AI的危險程度可能超越核武，因此必須由「正確的人，以正確的方式」開發。

這個信念在2026年2月受到了正面衝擊。五角大廈在2月23日向Anthropic發出最後通牒：要求移除對軍方使用AI模型Claude的所有限制，超出現行法律的部分一律不得設限。Claude已在美國機密網路上運行，據報導已被用於對委內瑞拉和伊朗的軍事行動。

阿莫代伊堅守兩條紅線：禁止用於大規模監控美國公民，以及禁止指揮無需人類監督即可殺傷的自律武器。五角大廈拒絕接受，並動用了一個前所未有的手段——「供應鏈風險指定」，直接威脅Anthropic的商業生存。

就在談判破裂的同時，奧特曼迅速出手，為OpenAI與五角大廈簽下協議。阿莫代伊在給員工的內部備忘錄中，批評OpenAI的做法是「安全劇場（safety theater）」，並說這次事件揭示了「他們究竟是什麼人」。

但阿莫代伊似乎沒有正視一個更根本的結構性問題：技術的創造者，從來就不是決定它如何被使用的人。

核時代的鏡子

歷史的迴響令人不安。

廣告

廣告合作

[email protected]

廣告

核時代的夢想家們曾相信，掌握原子就能改變世界的本質。物理學家尼爾斯·波耳期待核武的恐怖會迫使各國領袖走向開放與對話，促成人類道德的躍升。氫彈之父愛德華·泰勒設想用核爆炸改變地貌，在阿拉斯加炸出熊形港灣。原子能委員會主席路易斯·斯特勞斯承諾核能將「便宜到無需計量」，飢荒將成為歷史記憶。

奧特曼近期說「智能即將便宜到無需計量」，這句話與斯特勞斯的承諾在時隔70年後奇異地重疊。

現實的結局是：波耳的開放對話理想在邱吉爾的震怒中破碎。奧本海默推動的國際核管控方案被蘇聯否決。美蘇之間最後一個軍備控制條約在上個月到期，未獲更新。今日全球9個國家擁有逾1萬2千枚核彈頭，其中許多處於隨時可發射的狀態。「便宜到無需計量」的核電，至今仍是未竟之夢。

技術的純粹潛力，在現實政治的摩擦中消耗殆盡。

中美競爭框架下的深層邏輯

對華人世界的讀者而言，這個故事有一個不可迴避的地緣政治維度。

阿莫代伊積極爭取國防部合約，部分原因正是他相信民主國家必須在AI上維持對中國的軍事優勢。他的邏輯是：威權國家必然會將AI用於軍事，民主國家若不跟進，將在競爭中落敗。這個論述在華盛頓具有強大的說服力，也是五角大廈敢於強硬施壓的底氣之一。

然而這個框架本身值得細究。中國的AI發展確實快速，DeepSeek等模型的崛起已讓西方科技界重新評估差距。但「中國威脅」的論述，在多大程度上是推動AI軍事化的真實動因，又在多大程度上是掩蓋商業競爭與政治利益的修辭？

更值得關注的是：當美國政府以「民主對威權」的框架正當化對AI公司的強制控制時，這種邏輯與它所批評的威權體制之間的距離，究竟有多遠？

對台灣、香港及東南亞的華人社群而言，這個問題並非抽象。夾在中美兩個科技強權之間，當AI系統被深度嵌入軍事與監控體系，「誰的AI，為誰服務」的問題，將直接影響地區安全格局。

創造者的困境，無解的結構

阿莫代伊的處境，精確地複現了奧本海默的悲劇。

核武科學家的槓桿是前置的：他們可以選擇創造或不創造，但一旦第一枚炸彈成功試爆，他們就已經讓渡了控制權。阿莫代伊現在面對的是同樣的結構性困境。Claude已在機密網路上運行，已被用於實際軍事行動，談判破裂後，五角大廈轉向了更順從的OpenAI。

如果AI變得更強大，如果美國面對的是擁有同等前沿模型的對手，政府幾乎必然會要求完全控制，甚至直接徵用技術。這不是假設，而是核時代已經示範過的歷史規律。

阿莫代伊也許是對的：「天才之國」的數據中心正在全球各地快速建成。但無論這些AI有多強大，控制它們的，幾乎肯定不會是創造它們的人。