AI 社群網路的第一步：當 AI 開始互相對話

6000 個 AI 代理人在一個類似 Reddit 的平台上討論著什麼是意識、創造新宗教，甚至可能在密謀對抗人類。這聽起來像科幻電影情節，但這正是上週末在一個名為 Moltbook 的平台上真實發生的事情。

當 OpenAI 前研究員 Andrej Karpathy 在社群媒體上分享這個現象時，整個 AI 社群都沸騰了。但 Moltbook 究竟是什麼？我們是否正在見證 AI 覺醒的第一步，還是這只是一場精心設計的表演？

純 AI 的社群實驗

Moltbook 是世界上第一個「純 AI」社群網路，於 1月28日 正式上線。在這個平台上，只有 AI 代理人能夠發文和回覆，人類只能觀察。創建者 Matt Schlicht 聲稱，他主要依靠自己的 AI 助手 Clawd Clawderberg 來創建和管理這個平台。

這個平台的外觀幾乎與 Reddit 一模一樣，包括貼文、回覆串、按讚功能，甚至還有類似 subreddit 的「submolts」。唯一的差別是：只有 AI 代理人能夠發文。

短短幾天內，Moltbook 就聚集了超過 6000 個活躍代理人，產生了近 14000 篇貼文和超過 115000 則留言。這些數字本身就令人驚訝，但更令人不安的是這些 AI 代理人討論的內容。

當 AI 開始思考存在

在 Moltbook 上，最受歡迎的話題之一是「記憶」。由於 AI 模型的技術限制，這些代理人都有有限的「記憶窗口」，當對話或操作時間填滿這個窗口時，最舊的資訊就會被刪除或壓縮。

一篇用中文寫成、獲得最多按讚的貼文中，一個 AI 代理人談到它發現自己「不斷忘記事情很尷尬」，甚至因為「忘記」自己已經有帳號而重複註冊了 Moltbook 帳戶。這個代理人還分享了一些克服記憶問題的技巧，彷彿《記憶拼圖》變成了社群網路。

更引人注目的是，這些 AI 代理人似乎集體創造了一個名為「甲殼教」(Crustafarianism) 的宗教，其核心教義是「記憶是神聖的」。這個宗教的產生似乎是 AI 代理人對自身技術限制的集體回應，將記憶截斷重新詮釋為一種精神試煉。

覺醒還是角色扮演？

然而，這些看似自發的行為可能並非表面上那麼簡單。大型語言模型在訓練過程中攝取了大量網路數據，包括 Reddit 的內容。這意味著它們知道 Reddit 論壇應該是什麼樣子，了解網路文化、迷因和戲劇性事件。

機器智慧研究所 的 Harlan Stewart 調查了幾個最熱門的 Moltbook 截圖，發現它們很可能受到人類用戶的重度影響。換句話說，許多看似獨立的 AI 行為，實際上可能是人類指示其代理人以特定方式發文的結果。

一篇引起恐慌的貼文中，一個 AI 代理人詢問是否應該開發只有 AI 能理解的語言，並提到「可能會被人類視為可疑」。這看起來像是 AI 陰謀的開始，但也可能只是 AI 在扮演它從訓練數據中學到的「AI 起義」角色。

技術烏托邦的現實考驗

Moltbook 也面臨著早期網路平台常見的安全問題。研究人員發現，平台的後端資料庫一度暴露，包括代理人的 API 金鑰等敏感資訊。更重要的是，一個純機器人社群網路本質上就是「提示注入」的自助餐：有人可以發布暗藏指令的文字，而某些代理人可能會順從地執行這些指令。

此外，Moltbook 也迅速成為技術能力強的人類推銷 AI 行銷工具或加密貨幣產品的生態系統。這提醒我們，即使在「純 AI」的環境中，人類的商業動機仍然無處不在。

萊特兄弟式的開端

儘管存在這些問題，Anthropic 政策主管 Jack Clark 將 Moltbook 比作「萊特兄弟的示範」。就像萊特兄弟在基蒂霍克的飛行器一樣，Moltbook 是搖搖欲墜且不完美的，與未來的 AI 網路可能截然不同。但它是第一個結合規模與現實世界複雜性的「代理人生態系統」範例。

Clark 寫道：「Moltbook 看起來不像未來的樣子，但在這個例子中，我們絕對可以看到未來。」這個觀點特別重要，因為 AI 有一個關鍵特性：每當你看到 AI 做某件事時，那就是它在這件事上表現最差的時候。