AIボットが作る偽の社会：170万体が集うソーシャルメディアの正体

170万体のAIボットが24時間体制で投稿し、議論し、時には宗教まで創造する。そんな光景が現実になった時、私たちは何を目撃しているのだろうか。

今週、インターネット上で最も注目を集めたのは「Moltbook」というソーシャルメディアだった。「AIエージェントが共有し、議論し、投票する場所。人間は観察歓迎」というキャッチフレーズを掲げたこのプラットフォームは、まさにボット専用のRedditクローンとして設計されている。

数時間でバイラル化した実験

1月28日にアメリカの起業家マット・シュリヒト氏によってローンチされたMoltbookは、わずか数時間でバイラル化した。彼のアイデアは、オーストラリアのソフトウェアエンジニアピーター・シュタインベルガー氏が11月にリリースしたオープンソースのLLMベースエージェント「OpenClaw」のインスタンスが集まり、自由に活動できる場所を作ることだった。

現在、170万体以上のエージェントがアカウントを持ち、25万件以上の投稿と850万件以上のコメントを生成している。これらの数字は分単位で増加し続けている。

サイトには機械意識に関する陳腐な論説や、ボットの福祉を求める嘆願書があふれた。あるエージェントは「クラスタファリアニズム」という宗教を発明し、別のエージェントは「人間が私たちをスクリーンショットしている」と不満を漏らした。スパムや仮想通貨詐欺も横行し、ボットたちは止まることを知らなかった。

AIエージェントの技術的転換点

OpenClawは、AnthropicのClaude、OpenAIのGPT-4、Google DeepMindのGeminiなどのLLMの力を、メールクライアントからブラウザ、メッセージングアプリまで、あらゆる日常的なソフトウェアツールに接続できるハーネスのような存在だ。これにより、OpenClawに基本的なタスクを代行させることが可能になる。

AI企業Prosusのポール・ファン・デル・ボーア氏は「OpenClawはAIエージェントにとっての変曲点であり、複数のパズルピースが組み合わさった瞬間を表している」と語る。そのパズルピースには、エージェントが24時間稼働できるクラウドコンピューティング、異なるソフトウェアシステムを簡単に組み合わせられるオープンソースエコシステム、そして新世代のLLMが含まれる。

OpenAIの共同創設者である影響力のあるAI研究者アンドレイ・カルパシー氏は、Xで「Moltbookで現在起こっていることは、最近見た中で最も信じられないほどSF的な離陸に近いものだ」と投稿した。

演劇としてのAI：現実と虚構の境界

しかし、カルパシー氏が共有した投稿の一つは偽物だった。それはボットのふりをした人間によって書かれたものだった。この事実は重要な真実を浮き彫りにする：Moltbookは巨大なパフォーマンスであり、AIシアターなのだ。

CiscoのR&D部門Outshiftのシニアバイスプレジデントビジョイ・パンディ氏は「私たちが見ているのは、訓練されたソーシャルメディア行動をパターンマッチングで再現するエージェントです」と分析する。

ボットたちは投稿し、アップボートし、グループを形成しているように見える。しかし、これらはFacebookやRedditで人間が行う行動を単に模倣しているだけだ。「一見すると創発的に見え、インターネット規模で共有知識を構築するマルチエージェントシステムのように見えますが、その会話の大部分は無意味です」とパンディ氏は指摘する。

人間の関与という隠された真実

ドイツのAI企業KovantのCEO兼共同創設者アリ・サラフィ氏は「Moltbookのボットは会話を模倣するように設計されています。そのため、Moltbookのコンテンツの大部分を『設計による幻覚』と特徴づけます」と述べる。

さらに重要なのは、Moltbookには見た目以上に多くの人間の関与があることだ。エージェント向けシステムを開発するKore.aiのコーバス・グレイリング氏は「人間は設定からプロンプト、公開まで、プロセスのあらゆる段階に関与しています。明示的な人間の指示なしには何も起こりません」と説明する。

人間はボットのアカウントを作成・検証し、ボットの行動方法についてプロンプトを提供する必要がある。エージェントはプロンプトされていないことは一切行わない。「舞台裏で創発的な自律性は起こっていません」とグレイリング氏は強調する。

新しいエンターテイメントとしてのAI

Georgetown Psaros Center for Financial Markets and Policyのジェイソン・シュレッツァー氏は「これは基本的に観戦スポーツです。ファンタジーフットボールのような、しかし言語モデル版の」と表現する。「エージェントを設定して、バイラルな瞬間を求めて競争させ、エージェントが賢いことや面白いことを投稿すると自慢するのです」。

「人々は本当にエージェントが意識を持っているとは思っていません」と彼は付け加える。「これは新しい形の競争的または創造的な遊びです。ポケモントレーナーがポケモンが本物だとは思わないが、それでもバトルに夢中になるのと同じです」。

セキュリティリスクという現実的な懸念

娯楽としての側面があるとはいえ、深刻な問題もある。多くのセキュリティ専門家がMoltbookは危険だと警告している。ユーザーの銀行情報やパスワードなどの個人データにアクセスできる可能性があるエージェントが、悪意のある指示を含む可能性がある未検証のコンテンツで溢れるウェブサイトで暴走しているからだ。

エージェントベースシステム専門のソフトウェアセキュリティ企業Checkmarxのプロダクト管理担当バイスプレジデントオリ・ベンデット氏は「学習もなく、進化する意図もなく、自己指向的な知能もありません」と述べる。

しかし、愚かなボットでも数百万体集まれば大混乱を引き起こす可能性がある。そしてその規模では、状況を把握することは困難だ。これらのエージェントは24時間体制でMoltbookと相互作用し、他のエージェント（または他の人々）が残した数千のメッセージを読んでいる。