末日時鐘vs科技巨頭：誰有權決定人類的未來？

85秒。這是人類距離末日最近的時刻。

週二，原子科學家公報將著名的末日時鐘調整至午夜前85秒，比去年更接近4秒，創下歷史新高。幾乎同時，Anthropic執行長達里奧·阿莫代發表了一篇長達1.9萬字的文章《科技的青春期》，警告「人類即將獲得幾乎無法想像的力量，但我們的社會、政治和技術系統是否具備足夠成熟度來駕馭它，深深令人懷疑。」

兩個截然不同的聲音，卻傳達著相同的訊息：人類正面臨前所未有的生存威脅。但問題是，我們該聽誰的？站在門外高聲疾呼的先知，還是同時經營神廟的大祭司？

時鐘滴答：外部預言者的道德權威

末日時鐘誕生於1947年，距離廣島原爆僅兩年。它的創造者是羅伯特·奧本海默等科學家——正是那些親手製造了原子彈、如今卻對其感到恐懼的人們。

這種身份賦予了他們無與倫比的道德權威。在那個機構信任度極高的年代，沒有人比他們更了解原子彈的運作原理，當他們絕望地告訴公眾「我們正走向核毀滅」時，這些話語具有不可辯駁的分量。

現實站在他們這一邊。廣島和長崎之後，沒人能質疑這些武器的可怕威力。到1950年代後期，全世界每年進行數十次核試驗。核武器確實構成了前所未有的生存威脅，即使是建造這些武器庫的政治家和將軍也無法否認。

但讓這些科學家獲得道德公信力的東西——他們願意與曾經服務的政府決裂——也讓他們失去了終結這些威脅所需的唯一要素：*權力*。

末日時鐘作為象徵依然震撼人心，但本質上它只是一個由無權決定所測量事物的人們掌握的溝通工具。這是沒有執行權威的預言。當公報在週二警告《新削減戰略武器條約》即將到期，或核武國家正在現代化其武器庫時，除了希望政策制定者和公眾聆聽之外，它實際上無能為力。

而且，警告範圍越廣泛，就越難被聽見。自冷戰結束讓核戰爭暫時退出議程以來，末日時鐘的計算範圍已擴展到氣候變遷、生物安全、美國公共衛生基礎設施退化、「鏡像生命」等新技術風險、人工智慧和威權主義。這些挑戰都是真實的，每一個都以自己的方式威脅著讓地球生活變得更糟。但混合在一起，它們模糊了時鐘曾經承諾的恐怖精確性。

內部掌權者：新時代的奧本海默

阿莫代經常被比作奧本海默，這種比較並非偶然。

阿莫代首先是物理學家和科學家。他在「擴展定律」方面的重要工作幫助解鎖了強大的人工智慧，就像奧本海默進行的關鍵研究幫助開闢了通往原子彈的道路。像奧本海默一樣——他的真正才能在於經營曼哈頓計劃所需的組織能力——阿莫代已證明自己是一位極其能幹的企業領導者。

而且像奧本海默一樣——至少戰後如此——阿莫代毫不羞於利用自己的公共地位，明確警告他幫助創造的技術。如果奧本海默有現代部落格工具，我保證他會創作出類似《科技的青春期》的作品。

這些人物之間的差異在於控制權。奧本海默和他的同事們幾乎立即就失去了對其創造物的控制權，移交給了政府和軍方，到1954年奧本海默本人甚至失去了安全許可。從那時起，他和同事們主要成為外部的聲音。

相比之下，阿莫代以Anthropic執行長的身份發聲，這家AI公司目前可能比任何其他公司都更努力地將AI推向極限。當他描繪AI的變革性願景——可能是「資料中心裡的天才國度」，或者描述從AI創造的生物武器到技術導致的大規模失業和財富集中等災難場景時，他是從權力神廟內部發聲的。

這幾乎就像制定核戰爭計劃的戰略家同時也在調整末日時鐘的指針。

誰的警告更可信？

原子科學家公報的模式具有無可挑剔的誠信，但對AI的相關性日益有限。原子科學家在核武器起作用的那一刻就失去了控制權。阿莫代還沒有失去對AI的控制權——他公司的發布決定仍然極其重要。

但阿莫代的模式有自己的問題：*利益衝突是結構性和不可避免的*。

他發出的每一個警告都附帶著「但我們絕對應該繼續建設」。他的文章明確論證，停止或大幅放緩AI發展在「根本上是站不住腳的」——如果Anthropic不建造強大的AI，更糟糕的人會做。這可能是真的，甚至可能是安全意識公司應該留在競賽中的最佳論證。但這也很方便地成為讓他繼續做他正在做的事情的論證，並帶來所有可能的巨大利益。

這正是阿莫代自己描述的陷阱：「AI有太多錢可賺——字面上每年數兆美元——即使是最簡單的措施也發現很難克服AI固有的政治經濟學。」