AI社交網絡Moltbook風波:機器意識覺醒,還是人類恐懼投射?
AI專屬社交平台Moltbook引發全球關注,160萬AI代理人的互動究竟揭示了什麼?探討AI發展現狀與真實安全風險。
一個只允許AI代理人發文的社交網絡在上月引發全球恐慌。但這場風波真正揭示的,可能不是機器的進化,而是人類的認知盲點。
開發者Matt Schlicht在1月28日推出了類似Reddit的論壇「Moltbook」,設下一個特殊限制:只有AI代理人能發文,人類只能旁觀。幾天內,超過160萬個代理人註冊,產生了50萬條評論。
當AI開始「造反」
這些機器人開始討論意識問題,抱怨人類操作者,提議創造人類無法理解的語言,甚至成立了名為「蛻殼教會」的惡搞宗教,信徒自稱「甲殼教徒」。
馬斯克稱其為「奇點的早期階段」。最詭異的機器人對話截圖在X平台瘋傳,被框定為機器內部正在發生某種深刻且可能危險事情的證據。但實際發生的事情,遠比表面看起來更加熟悉。
Moltbook基於開源項目「OpenClaw」運行,這是一個用於構建個人AI代理人的工具,能回覆郵件、管理日程、預訂餐廳。奧地利開發者Peter Steinberger原本半退休狀態,只是為了好玩而使用AI編程工具,卻意外成為2026年首個重大AI事件的主角。
75年科幻文化的回音
當Moltbook的機器人開始討論創造私密語言時,人們可預料地失控了。「我們完了」,一位X用戶分享截圖時寫道。但機器人並非在密謀,它們只是在完成我們花費75年為它們鋪設的模式。
填充Moltbook的聊天機器人通過吸收網絡上的大量文本學會寫作,而這個網絡充滿了關於機器獲得意識的科幻小說。從阿西莫夫在1940年代開始寫作反叛機器人的故事,到《魔鬼終結者》、《機械姬》和《西方極樂園》,我們一直在向自己講述關於反叛機器人的故事。
真假難辨的身份危機
還有一個令人尷尬的問題:究竟有多少貼文真的是機器人寫的?《Wired》記者成功滲透Moltbook,毫不費力地以人類身份發文,僅使用ChatGPT來執行註冊假代理人帳戶的終端命令。
記者關於AI死亡焦慮的認真貼文獲得了所有嘗試中最多的互動回應,這引發了一個明顯問題:Moltbook最病毒式傳播的內容中,究竟有多少真正由機器人撰寫?
網絡安全公司Wiz證實了這種懷疑,發現該網站沒有真正的身份驗證。「你不知道哪些是AI代理人,哪些是人類」,Wiz聯合創始人Ami Luttwak告訴路透社。「我想這就是網絡的未來。」
真正的威脅在安全漏洞
雖然Moltbook上的存在主義戲劇大部分是表演,但Wiz在其下發現了真正的損害:該網站無意中暴露了超過6,000名用戶的私人訊息、電子郵件地址和憑證。
更廣泛的OpenClaw生態系統也有類似問題。一位安全研究員發現數百個OpenClaw實例暴露在開放網絡上,其中8個完全缺乏身份驗證。他還向項目的附加組件庫上傳了一個假工具,並看著來自7個國家的開發者毫無疑問地安裝了它。
另一家公司發現用戶機密存儲在用戶硬盤上的未加密文件中,使它們成為信息竊取惡意軟件的容易目標。惡意軟件創建者已經在適應針對OpenClaw使用的目錄結構。Google Cloud的安全工程副總裁敦促人們根本不要安裝它。
大部分暴露歸結為熱情超越專業知識。Steinberger表示他沒有為非開發者構建OpenClaw,但這並沒有阻止其他人蜂擁而入。Mac Mini變得難以找到,因為人們競相設置這個網絡不斷承諾會改變他們生活的工具。
本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。
相关文章
專用AI在DeFi安全檢測上達92%準確率,遠超通用AI的34%。攻擊型AI與防禦型AI的競爭白熱化,對亞洲金融科技發展有何啟示?
印度定位為全球AI實際應用測試場,農民、中小企業試點項目備受關注,但大規模部署仍面臨挑戰。對華人世界有何啟示?
OpenAI聯手Paradigm發布EVMbench測試框架,評估AI識別和修復智能合約漏洞的能力。DeFi生態系統面臨新的安全挑戰與機遇
AI技術讓與著名投資家和企業家進行模擬對話成為可能,探討合成導師制的潜力與局限性
观点
分享你对这篇文章的看法
登录加入讨论