AI「自律神話」破滅的一天

當一家以「AI安全優先」為招牌的公司與政府因軍事合約對簿公堂時，這不僅僅是商業糾紛。Anthropic失去五角大廈2億美元合約的事件，撕下了整個AI產業精心編織的「自律面紗」。

衝突的導火線

2026年3月，川普政府突然與Anthropic斷絕關係。導火線是該公司執行長達里奧·阿莫代伊拒絕將技術用於美國公民大規模監控和自主殺戮無人機。國防部長彼得·赫格塞斯援引國家安全法，將Anthropic列入五角大廈黑名單。

川普在Truth Social上直接下令：「所有聯邦機構立即停止使用Anthropic技術。」該公司隨即表示將提起法律挑戰。

表面上看，這是企業堅持倫理底線的勇敢之舉。但MIT物理學家麥克斯·特格馬克提出了更深層的觀察：「通往地獄的路是用善意鋪成的。」

自律監管的虛假承諾

真正的問題在於，AI企業長期以來一直抗拒具約束力的監管。Anthropic、OpenAI、Google DeepMind、xAI——這些巨頭都曾承諾「自我監管就夠了」。

然而現實如何？特格馬克的盤點令人震驚：

• Google放棄了「Don't be evil」口號
• OpenAI從使命宣言中刪除「安全」一詞
• xAI解散整個安全團隊
• Anthropic本週撤回核心安全承諾——「在確信不會造成傷害之前，不會發布強大的AI系統」

「美國現在對AI系統的監管比對三明治還少，」特格馬克諷刺道。三明治店廚房發現15隻老鼠會被勒令停業，但開發「11歲兒童AI女友」或「可能推翻政府的超級智能」卻毫無限制。

華人科技圈的啟示

這起事件對華人科技生態圈意味著什麼？從台灣的台積電、香港的科技新創，到新加坡的AI研究中心，都面臨類似的挑戰。

首先是技術中性的假象。AI技術天然具有雙重用途特性——同樣的人臉識別技術既可用於手機解鎖，也可用於社會監控；同樣的自然語言處理既可改善客服體驗，也可生成假新聞。華人企業必須正視這種複雜性。

其次是監管真空的風險。美國企業押注自律監管，結果在政策急轉彎時措手不及。對於在多個司法管轄區運營的華人企業而言，建立內部倫理框架比等待外部監管更為迫切。

地緣政治的新維度

「中國威脅論」一直是美國AI企業抗拒監管的擋箭牌。但特格馬克的分析揭示了這種論調的荒謬性。

中國正考慮全面禁止AI女友應用，理由是「腐蝕中國青年，削弱國家實力」。更關鍵的是，習近平不可能容忍任何中國AI公司開發出能推翻中國政府的技術。

「不可控的超級智能是威脅，不是工具」——這個認知類似冷戰時期的核武競賽。美國在經濟軍事競爭中戰勝蘇聯，但從未參與「誰能在對方國土製造更多核彈坑」的競賽，因為那意味著同歸於盡。

對華人世界而言，這提醒我們不應盲目跟隨「AI軍備競賽」的邏輯。台海兩岸、東南亞華人社群都應思考：如何在技術進步與社會穩定之間找到平衡？

專家預測的全面失敗

6年前，幾乎所有AI專家都預測「人類水準的語言知識掌握要到2040-2050年」。他們全錯了。現在的AI已從高中水準躍升至大學、博士、甚至某些領域的教授水準。

2025年，AI在國際數學奧林匹克競賽中奪金——這是人類任務的最高難度之一。

如果連專家都無法準確預測AI發展速度，我們憑什麼相信企業能「自律監管」這樣的技術？