Liabooks Home|PRISM News
OpenAI「匆忙」簽約國防部:AI軍用化的道德底線在哪?
科技AI分析

OpenAI「匆忙」簽約國防部:AI軍用化的道德底線在哪?

3分钟阅读Source

OpenAI執行長承認與國防部的合約過於匆忙,分析AI企業在軍事應用上的安全防護措施與實際效力

Sam Altman執行長親口承認與國防部的交易「絕對是匆忙的」,而且「看起來很不好」。這個異常坦率的承認,揭露了AI產業軍事化背後的複雜現實。

48小時內的權力洗牌

週五,Anthropic五角大廈的談判破局。川普總統隨即指示聯邦機構在六個月過渡期後停止使用Anthropic的技術,國防部長Pete Hegseth更將該公司列為供應鏈風險。

就在此時,OpenAI迅速宣布達成自己的協議,允許其模型部署在機密環境中。兩家公司都聲稱對完全自主武器和大規模國內監控劃下「紅線」,但為何只有OpenAI能達成協議?

OpenAI後來發布的部落格文章解釋了其做法。公司明確指出三個禁止使用領域:大規模國內監控、自主武器系統,以及「高風險自動決策系統(如社會信用制度)」。

「多層防護」的真實性

OpenAI聲稱,相較於其他AI公司「減少或移除安全防護措施,主要依賴使用政策作為國安部署的主要保障」,該公司採用「更全面的多層方法」保護其紅線。

公司表示:「我們對安全堆疊保有完全自主權,透過雲端部署,經過安全許可的OpenAI人員參與其中,並有強有力的合約保護。」

然而,TechdirtMike Masnick指出,這項協議「絕對允許國內監控」,因為它聲明私人數據收集將遵守第12333號行政命令Masnick將該命令描述為「NSA透過竊聽美國境外線路來隱藏國內監控的方式,即使其中包含美國人的資訊」。

OpenAI國家安全合作夥伴關係主管Katrina MulliganLinkedIn上反駁,強調「部署架構比合約條款更重要」,並表示「透過限制我們的部署僅使用雲端API,我們可以確保我們的模型無法直接整合到武器系統、感測器或其他作戰硬體中」。

華人科技圈的思考

對於華人科技企業而言,這個發展值得深思。從台積電的晶片製造到聯發科的處理器技術,許多華人企業都掌握著具有軍事轉用潛力的關鍵技術。

特別值得注意的是,在中美科技競爭加劇的背景下,技術的「使用限制」與「部署架構」之間的區別變得更加重要。華人企業需要在遵循國際規範與維護商業利益之間找到平衡點。

AltmanX平台上坦承,匆忙的協議導致OpenAI面臨重大反彈。事實上,週六AnthropicClaude蘋果App Store上的排名已超越OpenAIChatGPT

Altman解釋簽約動機:「我們真的想要緩解局勢,而且我們認為提供的協議是好的。」他坦言這是一場賭博:「如果我們是對的,這確實導致了國防部與產業間的緩解,我們會看起來像天才,像一家承受很多痛苦來幫助產業的公司。如果不是,我們將繼續被描述為匆忙和不謹慎的。」

本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。

观点

相关文章