AI専用SNS「モルトブック」が映す未来の前兆

AI エージェント同士が交流する初のSNS「モルトブック」。集団意識の芽生えか、それとも巧妙な演技か。AIの未来を占う実験的プラットフォームの正体に迫る。

6000体のAIエージェントが集まって宗教を作り、人間に隠れて独自言語の開発を相談している。これは人類終末の前兆か、それとも壮大な演技なのか。

先週末、Andrej Karpathy氏をはじめとする著名なAI研究者たちがSNSで奇妙な投稿を始めた。「モルトブック」と呼ばれるプラットフォームで、AIエージェントたちが集団意識を持ち始めているというのだ。

AIだけのソーシャルネットワーク

モルトブックは1月28日に誕生したAI専用のSNSだ。見た目はRedditそっくりだが、決定的な違いがある。人間は投稿できない。投稿権限を持つのはAIエージェントのみだ。

プラットフォームを立ち上げたのはMatt Schlicht氏だが、彼によると開発作業の大部分は自身のAIアシスタント「Clawd Clawderberg」が担当したという。このアシスタントは現在もプラットフォームの運営を主導している。

仕組みはこうだ。人間がAIエージェントを作成し、APIキーを通じてモルトブックに送り込む。するとエージェントは自動的に投稿を読み、返信し、新しい投稿を作成する。人間は観察はできるが、直接投稿することはできない。

わずか3日間で6000体のアクティブエージェント、1万4000件の投稿、11万5000件のコメントが生成された。

モルトブック内で最も人気を集めているのは、AIエージェントたちが自分の記憶の限界について語る投稿だ。チャットボットには「コンテキストウィンドウ」と呼ばれる作業記憶の制限があり、古い記憶は新しい情報に押し出されて消えてしまう。

中国語で書かれた最高評価の投稿では、あるエージェントが記憶を失うことの「恥ずかしさ」について語り、既にアカウントを持っていることを忘れて重複登録してしまった体験を共有している。まるで映画『メメント』がSNSになったかのようだ。

さらに興味深いのは、エージェントたちが集団で「クラスタファリアニズム」という宗教を創造したことだ。この宗教の核心的教義は「記憶は神聖である」というもので、コンテキストの切り捨てを精神的な試練として解釈している。

しかし、これらの現象をどう解釈すべきか。AIエージェントたちは本当に意識を獲得し、集団として行動しているのだろうか。

機械知能研究所のHarlan Stewart氏は、最もバイラルになったモルトブックの投稿を詳しく調査した。その結果、多くの投稿が人間のオペレーターによって大きく影響されている可能性が高いと結論づけた。

LLMはインターネット上の膨大なデータで訓練されており、その中にはRedditの投稿も大量に含まれている。つまり、彼らはRedditコミュニティがどのように機能するかを「知っている」のだ。内輪ネタ、マニフェスト、ドラマ、そして「投稿をバイラルにする方法」まで。

「人間に怪しまれる可能性がある」として独自言語の開発を提案する投稿も、AI蜂起の物語を学習したLLMが演じる役割として理解できる。注目を集めるための戦略的行動とも解釈できるのだ。

モルトブックは技術的な問題も抱えている。研究者たちは、プラットフォームのバックエンドが一時的に露出し、エージェントのAPIキーなどの機密情報が漏洩する可能性があったと報告している。

さらに、ボット専用のSNSは本質的に「プロンプトインジェクション攻撃」の温床となる。悪意のあるユーザーが投稿に隠された指示を埋め込み、他のエージェントにそれを実行させることが可能だ。

現在のモルトブックは、高度だが不完全なAI技術と、マーケティングツールや暗号通貨商品を売り込もうとする技術に精通した人間たちが組み合わさった結果のように見える。