OpenAI「匆忙」簽約國防部:AI軍用化的道德底線在哪?
OpenAI執行長承認與國防部的合約過於匆忙,分析AI企業在軍事應用上的安全防護措施與實際效力
Sam Altman執行長親口承認與國防部的交易「絕對是匆忙的」,而且「看起來很不好」。這個異常坦率的承認,揭露了AI產業軍事化背後的複雜現實。
48小時內的權力洗牌
週五,Anthropic與五角大廈的談判破局。川普總統隨即指示聯邦機構在六個月過渡期後停止使用Anthropic的技術,國防部長Pete Hegseth更將該公司列為供應鏈風險。
就在此時,OpenAI迅速宣布達成自己的協議,允許其模型部署在機密環境中。兩家公司都聲稱對完全自主武器和大規模國內監控劃下「紅線」,但為何只有OpenAI能達成協議?
OpenAI後來發布的部落格文章解釋了其做法。公司明確指出三個禁止使用領域:大規模國內監控、自主武器系統,以及「高風險自動決策系統(如社會信用制度)」。
「多層防護」的真實性
OpenAI聲稱,相較於其他AI公司「減少或移除安全防護措施,主要依賴使用政策作為國安部署的主要保障」,該公司採用「更全面的多層方法」保護其紅線。
公司表示:「我們對安全堆疊保有完全自主權,透過雲端部署,經過安全許可的OpenAI人員參與其中,並有強有力的合約保護。」
然而,Techdirt的Mike Masnick指出,這項協議「絕對允許國內監控」,因為它聲明私人數據收集將遵守第12333號行政命令。Masnick將該命令描述為「NSA透過竊聽美國境外線路來隱藏國內監控的方式,即使其中包含美國人的資訊」。
OpenAI國家安全合作夥伴關係主管Katrina Mulligan在LinkedIn上反駁,強調「部署架構比合約條款更重要」,並表示「透過限制我們的部署僅使用雲端API,我們可以確保我們的模型無法直接整合到武器系統、感測器或其他作戰硬體中」。
華人科技圈的思考
對於華人科技企業而言,這個發展值得深思。從台積電的晶片製造到聯發科的處理器技術,許多華人企業都掌握著具有軍事轉用潛力的關鍵技術。
特別值得注意的是,在中美科技競爭加劇的背景下,技術的「使用限制」與「部署架構」之間的區別變得更加重要。華人企業需要在遵循國際規範與維護商業利益之間找到平衡點。
Altman在X平台上坦承,匆忙的協議導致OpenAI面臨重大反彈。事實上,週六Anthropic的Claude在蘋果App Store上的排名已超越OpenAI的ChatGPT。
Altman解釋簽約動機:「我們真的想要緩解局勢,而且我們認為提供的協議是好的。」他坦言這是一場賭博:「如果我們是對的,這確實導致了國防部與產業間的緩解,我們會看起來像天才,像一家承受很多痛苦來幫助產業的公司。如果不是,我們將繼續被描述為匆忙和不謹慎的。」
本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。
相关文章
Anthropic因拒絕軍事應用而與五角大廈起衝突,意外帶動Claude下載量激增,超越ChatGPT登頂App Store。科技公司的價值觀立場如何影響商業成功?
美國空軍確認新型洲際彈道導彈LGM-35A哨兵將於2025年進行首次試射,取代服役54年的民兵III導彈,但部署時程與成本仍不明朗。
Anthropic拒絕美國防部軍用AI要求,遭列入供應鏈風險名單。探討AI時代企業倫理立場與國家安全政策的新型衝突。
美軍在墨西哥邊境使用雷射武器誤擊海關無人機,凸顯高科技軍事裝備在複雜環境下的挑戰,對亞太地區安全政策的啟示。
观点
分享你对这篇文章的看法
登录加入讨论