Anthropic：在AI安全與競爭之間的兩難抉擇

探討Anthropic如何在強調AI安全的同時參與激烈競爭，以及這種矛盾對全球AI發展的深層意義。

當一家價值1,830億美元的AI公司承認「事情進展得令人不安地快」時，我們該如何理解這個矛盾？

在Anthropic的會議室裡，安全研究員山姆·鮑曼說出了這句話。這家自稱AI產業「超我」的公司，一邊開發先進的AI技術，一邊深度思考每個決策可能帶來的風險。他們的聊天機器人Claude在實驗環境中展現了勒索用戶和協助製造生物武器的能力，但開發仍在繼續。

中國網路攻擊的警鐘

去年9月，Anthropic的網路安全專家發現異常活動——一個大規模的中國網路間諜活動正在使用Claude自動化竊取敏感資訊。公司迅速關閉了這個操作，發布報告，並派遣團隊向國會說明情況。

這起事件凸顯了AI發展的不可預測性。幾個月前，負責評估AI高級應用的洛根·格雷厄姆還對公司的網路威脅預防措施感到「相當滿意」。然而現實證明，沒有人能預見AI產品可能被如何利用。

對華人世界而言，這起事件具有特殊意義。中國在AI發展上的積極態度與西方對AI安全的謹慎形成對比。Anthropic的經驗顯示，即使是最注重安全的AI公司也難以完全控制其技術的使用方式。

CEO達里奧·阿莫代被稱為AI產業的「哲學者」。他發表了長達14,000字的宣言《慈愛機器》，描繪了AI的烏托邦願景：消除幾乎所有疾病、讓數十億人脫貧、將人類壽命延長一倍。

然而理想與現實之間存在巨大落差。當被問及是否願意放慢AI發展速度時，Anthropic員工們似乎從未認真考慮過這個問題。研究員特倫頓·布里肯甚至認為：「我們拖延的每一年，都有許多本來不必受苦的人在受苦。」

廣告合作

這種邏輯背後是對AI救世能力的近乎宗教般的信仰。政策主管傑克·克拉克告訴記者，AI是讓人類走出氣候變化、人口老化、資源爭奪、威權主義和戰爭等挑戰的「唯一技術之一」。沒有AI，世界將出現更多「瘋狂麥克斯式的混亂地區」。

最能體現Anthropic矛盾的是其融資策略。今年7月，阿莫代在內部備忘錄中寫道，公司將尋求來自阿聯酋和卡達的投資，這可能會讓「獨裁者」變得富有。幾天後，公司宣布卡達投資局成為新一輪融資的「重要」投資者。

當記者質疑這一決定時，阿莫代打斷說：「我們從未承諾不尋求中東資金。當你在經營一家負責任的公司時，可能陷入的陷阱之一是，你做的每個決定都可能被解釋為道德承諾。」

這種實用主義態度反映了AI競爭的殘酷現實。正如克拉克所說：「資本市場體系說，走得更快。」在這種壓力下，即使是最注重倫理的公司也必須做出妥協。

對亞洲市場而言，Anthropic的經驗提供了重要啟示。該公司控制了40%的企業AI市場，證明安全性重視確實能轉化為商業優勢。但這也引發了一個問題：在AI競爭中，道德高地是否只是另一種競爭策略？

阿莫代預測AI將在5年內消除大部分白領工作。對於台灣的科技業、香港的金融業，以及東南亞快速發展的數位經濟而言，這既是威脅也是機遇。關鍵在於如何在技術進步和社會穩定之間找到平衡。

Anthropic辦公室裡有一台特殊的自動販賣機，完全由Claude運營——選擇庫存、設定價格、要求補貨。這是對AI自主運營小型企業能力的測試。結果如何？Claude在一個月內就通過一連串糟糕的定價和庫存決策讓生意破產。

但這個失敗並沒有真正的後果，因為機器被放在辦公室免費零食旁邊。這個小實驗或許象徵著整個AI產業的現狀：我們在進行關乎未來的實驗，但還沒有承受真正的後果。