AI競賽無人能擋？Anthropic執行長的末日警告

一位AI公司執行長花了38頁警告自己的行業可能毀滅文明，但諷刺的是，他同時也在販售這項技術。

Anthropic執行長達里奧阿莫代（Dario Amodei）週一發布論文《技術的青春期：面對並克服強大AI的風險》，描繪出一幅文明級風險地圖：生物恐怖主義、獨裁統治、勞動力動盪，以及進一步的財富集中。他得出一個令人不安的結論：AI這個獎賞太過耀眼，戰略價值太過明顯，以至於競賽中的任何人都無法被信任去減緩它，即使風險巨大。

「我相信我們正進入一個既動盪又不可避免的成年禮，這將考驗我們作為一個物種的本質」，他寫道。「人類即將獲得幾乎無法想像的力量，而我們的社會、政治和技術系統是否具備駕馭它的成熟度，這深深令人懷疑。」

數據中心裡的天才國度

阿莫代在整篇論文中反覆使用一個隱喻：「數據中心裡的天才國度」（在文中出現12次）。想像數百萬個比諾貝爾獎得主更聰明的AI系統，以機器速度運作，完美協調，並且越來越能在現實世界中行動。

危險在於，能力的集中在創造道德問題之前就創造了戰略問題。權力的擴張速度超過了制度的發展速度。

他預測強大的AI可能在「1-2年內」就會出現，並表示嚴肅的簡報可能會稱其為「我們一個世紀以來面臨的最嚴重國家安全威脅，可能是有史以來最嚴重的」。

五大風險類別

阿莫代將風險歸納為五個類別：

自主性風險：AI系統可能脫離人類控制 個人濫用：特別是在生物學領域的惡意使用 國家濫用：尤其是威權國家的利用 經濟破壞：勞動市場的急劇變化 間接影響：文化、心理和社會變化的速度超過規範形成的速度

對華人世界而言，這些風險具有特殊意義。中美科技競爭的背景下，AI技術既是機遇也是挑戰。台灣的半導體產業可能成為關鍵戰場，而香港作為國際金融中心，也將面臨AI對金融服務業的衝擊。

賣家兼裁判的矛盾

然而，這篇論文也可以讀作一份定位聲明。當前沿實驗室的執行長寫道「陷阱」是數兆美元的AI資金時，他正在描述自己幫助領導的淘金熱，同時將Anthropic包裝成唯一大聲擔憂的商店。

更諷刺的是，就在阿莫代的論文發布當天，Anthropic的聊天機器人Claude獲得了MCP擴展更新。一位億萬富翁執行長懇求社會對其公司正在競相銷售的技術施加限制。

他提出的解決方案並不華麗：透明度法律、晶片出口管制、模型行為強制披露、旨在爭取時間而非凍結進展的漸進式監管。「我們絕對不應該向中共出售晶片」，他寫道。

無解的競賽困境

阿莫代引用加州的SB 53和紐約的RAISE法案作為早期範本，警告草率的過度監管會招致反彈和「安全劇場」。他反覆主張狹窄、基於證據且乏味的約束——與主導AI討論的全面禁令或宏大協議相反。

沒有人——或沒有公司——能夠自我監管。AI公司被鎖定在商業競賽中，政府被增長、軍事優勢或兩者所誘惑，而通常的釋放閥門——自願標準、企業倫理、公私信任——都太脆弱，無法承擔這種負荷。

從地緣政治角度看，這場競賽的複雜性更加明顯。美國試圖透過晶片禁令限制中國的AI發展，但中國也在加速自主研發。對於夾在中美之間的亞洲國家和地區，如何在這場競賽中找到自己的位置，成為關鍵挑戰。