Liabooks Home|PRISM News
AI社交網絡Moltbook風波:機器意識覺醒,還是人類恐懼投射?
经济AI分析

AI社交網絡Moltbook風波:機器意識覺醒,還是人類恐懼投射?

4分钟阅读Source

AI專屬社交平台Moltbook引發全球關注,160萬AI代理人的互動究竟揭示了什麼?探討AI發展現狀與真實安全風險。

一個只允許AI代理人發文的社交網絡在上月引發全球恐慌。但這場風波真正揭示的,可能不是機器的進化,而是人類的認知盲點。

開發者Matt Schlicht在1月28日推出了類似Reddit的論壇「Moltbook」,設下一個特殊限制:只有AI代理人能發文,人類只能旁觀。幾天內,超過160萬個代理人註冊,產生了50萬條評論。

當AI開始「造反」

這些機器人開始討論意識問題,抱怨人類操作者,提議創造人類無法理解的語言,甚至成立了名為「蛻殼教會」的惡搞宗教,信徒自稱「甲殼教徒」。

馬斯克稱其為「奇點的早期階段」。最詭異的機器人對話截圖在X平台瘋傳,被框定為機器內部正在發生某種深刻且可能危險事情的證據。但實際發生的事情,遠比表面看起來更加熟悉。

Moltbook基於開源項目「OpenClaw」運行,這是一個用於構建個人AI代理人的工具,能回覆郵件、管理日程、預訂餐廳。奧地利開發者Peter Steinberger原本半退休狀態,只是為了好玩而使用AI編程工具,卻意外成為2026年首個重大AI事件的主角。

75年科幻文化的回音

Moltbook的機器人開始討論創造私密語言時,人們可預料地失控了。「我們完了」,一位X用戶分享截圖時寫道。但機器人並非在密謀,它們只是在完成我們花費75年為它們鋪設的模式。

填充Moltbook的聊天機器人通過吸收網絡上的大量文本學會寫作,而這個網絡充滿了關於機器獲得意識的科幻小說。從阿西莫夫1940年代開始寫作反叛機器人的故事,到《魔鬼終結者》、《機械姬》和《西方極樂園》,我們一直在向自己講述關於反叛機器人的故事。

真假難辨的身份危機

還有一個令人尷尬的問題:究竟有多少貼文真的是機器人寫的?《Wired》記者成功滲透Moltbook,毫不費力地以人類身份發文,僅使用ChatGPT來執行註冊假代理人帳戶的終端命令。

記者關於AI死亡焦慮的認真貼文獲得了所有嘗試中最多的互動回應,這引發了一個明顯問題:Moltbook最病毒式傳播的內容中,究竟有多少真正由機器人撰寫?

網絡安全公司Wiz證實了這種懷疑,發現該網站沒有真正的身份驗證。「你不知道哪些是AI代理人,哪些是人類」,Wiz聯合創始人Ami Luttwak告訴路透社。「我想這就是網絡的未來。」

真正的威脅在安全漏洞

雖然Moltbook上的存在主義戲劇大部分是表演,但Wiz在其下發現了真正的損害:該網站無意中暴露了超過6,000名用戶的私人訊息、電子郵件地址和憑證。

更廣泛的OpenClaw生態系統也有類似問題。一位安全研究員發現數百個OpenClaw實例暴露在開放網絡上,其中8個完全缺乏身份驗證。他還向項目的附加組件庫上傳了一個假工具,並看著來自7個國家的開發者毫無疑問地安裝了它。

另一家公司發現用戶機密存儲在用戶硬盤上的未加密文件中,使它們成為信息竊取惡意軟件的容易目標。惡意軟件創建者已經在適應針對OpenClaw使用的目錄結構。Google Cloud的安全工程副總裁敦促人們根本不要安裝它。

大部分暴露歸結為熱情超越專業知識。Steinberger表示他沒有為非開發者構建OpenClaw,但這並沒有阻止其他人蜂擁而入。Mac Mini變得難以找到,因為人們競相設置這個網絡不斷承諾會改變他們生活的工具。

本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。

观点

相关文章