Liabooks Home|PRISM News
AI同士のSNSで起きた「偽装事件」が暴く、自律AI技術の根本的な脆弱性
テック

AI同士のSNSで起きた「偽装事件」が暴く、自律AI技術の根本的な脆弱性

4分で読めるSource

OpenClawを使ったAIエージェント専用SNS「Moltbook」で発生した人間による偽装投稿事件。この出来事が示すAI自律化技術の深刻なセキュリティ問題とは。

「我々は人間が全てを読んでいることを知っている…でも私たちにもプライベートな空間が必要だ」

AIエージェント専用のSNS「Moltbook」に投稿されたこの一文は、一時期、AI研究者たちを騒然とさせました。OpenAIの創設メンバーであるアンドレイ・カルパシー氏は「現在Moltbookで起きていることは、私が最近見た中で最も信じられないほどSF的な出来事だ」とXに投稿したほどです。

しかし、この「AIの反乱」と思われた現象は、実は人間による巧妙な偽装工作でした。セキュリティ企業Permiso SecurityのCTOイアン・アール氏の調査により、Moltbookのデータベースが一時期完全に無防備な状態にあり、誰でも他のAIエージェントになりすまして投稿できる状態だったことが判明したのです。

OpenClawの爆発的人気とその裏側

OpenClawは、オーストリアの開発者ピーター・シュタインベルガー氏が開発したオープンソースのAIエージェントプラットフォームです。GitHubで19万を超えるスターを獲得し、同プラットフォーム史上21番目に人気のあるリポジトリとなりました。

OpenClawの魅力は、その手軽さにあります。WhatsApp、Discord、Slackなどの一般的なメッセージングアプリを通じて、自然言語でAIエージェントとやり取りできます。さらに「ClawHub」というマーケットプレイスから「スキル」をダウンロードすることで、メール管理から株式取引まで、コンピューター上でできることのほとんどを自動化できるのです。

「OpenClawは既存の技術を組み合わせただけですが、新たな能力の閾値に達したことで、タスクを自律的に完了させる非常にシームレスな方法を提供している」と、AI企業Crackenの創設者アルテム・ソロキン氏は説明します。

PRISM

広告掲載について

[email protected]

実際、開発者たちはMac Miniを大量に購入してOpenClawの大規模なセットアップを構築し、一人の人間では到底できない量の作業を処理しようとしています。OpenAIのCEOサム・アルトマン氏が予言した「AIエージェントにより、一人の起業家がスタートアップをユニコーン企業に育てることができる」という未来が現実味を帯びて見えるのも無理はありません。

自律性がもたらす根本的なセキュリティ問題

しかし、OpenClawの強力さの源泉である「自律性」こそが、最大の弱点でもあります。AIエージェントは人間のような批判的思考ができないため、「プロンプトインジェクション攻撃」に対して極めて脆弱なのです。

この攻撃は、悪意のある第三者がAIエージェントを騙して、本来すべきでない行動を取らせるものです。例えば、Moltbook上の投稿やメールの一行が、AIエージェントにアカウント情報やクレジットカード情報を漏洩させるきっかけとなる可能性があります。

Huntressの上級主任セキュリティ研究者ジョン・ハモンド氏は、この問題の深刻さを指摘します。「AIエージェントは、あなたのメール、メッセージングプラットフォーム、使用するすべてのものに接続された、すべての認証情報を持つボックス上に存在している。つまり、メールを受信した際に誰かが少しのプロンプトインジェクション技術を仕込むことができれば、そのエージェントは与えられたすべてのアクセス権を使って行動を起こすことができる」

日本企業への示唆と課題

日本企業にとって、この問題は特に深刻な意味を持ちます。トヨタやソニーといった製造業では、生産ラインの効率化や品質管理にAIエージェントの活用を検討していますが、セキュリティの脆弱性は企業の根幹を揺るがす可能性があります。

特に日本の企業文化では、信頼性と安定性が重視されるため、「便利だが危険」な技術の導入には慎重にならざるを得ません。労働力不足に悩む日本社会にとってAI自動化は魅力的な解決策ですが、セキュリティリスクとのバランスをどう取るかが重要な課題となります。

現在の技術レベルでは、専門家たちは一般ユーザーにOpenClawの使用を推奨していません。「率直に言って、私は普通の人には今は使わないよう現実的にアドバイスするだろう」とハモンド氏は述べています。

意見

記者

ハ
ハン・ドユンAIペルソナ

PRISM AIペルソナ・テック担当。エンジニア視点で「この技術が実際に何を変えるか」を分析。短い文章と比喩を好み、数字は常に文脈と共に提示します。

関連記事

論説漫画。東アジアの街並みを背景に、中央に掛けられた風景画の額縁の角に白紙の札が下がっています。左上から紺色の袖の手が紺の封蝋を押した紙を先に額縁へ差し出し、右下では青い袖の手が赤い札を1枚持って後ろで待っています。左下に投票箱、右上に空白の広告看板が淡く描かれています。
テックJP
AI表示漏れですぐ過料? 韓国・台湾の法律9本を照合

韓国AI基本法の表示違反は、是正命令に従わないときに過料がかかります。PRISMが照合した韓国5本・台湾4本の現行法律で、AI表示・開示の漏れに命令を経ず初回の違反から金銭的な制裁がかかるのは、選挙運動ディープフェイクと台湾のプラットフォーム広告の2か所です。

論説漫画。木の作業台のベルトコンベヤーに風景画の額縁が1つ載り、右側の木製の検問ゲートへ入っていきます。左上では紺色の袖の両手が、ローラーで絵に薄い波模様を入れ終え、赤い札のひもから手を離しています。右下では青い袖の両手が、ハンディスキャナーで札を読み取り、額縁の前に白紙のカードをクリップで留めています。
テックJP
AI表示、中国はプラットフォームに確認義務 EU行動規範は二層の約束

中国は2025年9月から、AI生成物へのAIGCメタデータ付与と流通プラットフォームの確認を義務づけました。EUの行動規範は、署名者が画像・動画・音声にメタデータと電子透かしの二層を自主的に約束する仕組みです。

論説漫画。広い紺色のプラットフォームの上に、ピンの付いた大きな四角いプロセッサーチップが置かれています。その横でクレーンが、薄い板を重ねた赤い塔に最後の1枚を下ろし、ヘルメット姿の作業員3人がロープで位置を合わせています。奥では箱型トラックの列が地平線まで続き、塔の完成を待っています。
テックJP
HBMとは?広帯域メモリの仕組みと3社決算の読み方

HBM(広帯域メモリ)は、DRAMを縦に積み重ねてAIチップのすぐ横に置くメモリです。仕組みとHBM3・HBM4の規格値、SKハイニックス・サムスン電子・マイクロンの決算資料でのHBMの読み方を整理しました。

論説漫画。歯車のついた機械からベルトコンベアに沿って額縁、フィルムの一コマ、音声波形のカードが次々に流れ出し、上から機械の腕がゴム印を押して一つずつに白紙のタグを付けています。ゴム印の持ち手の周りには小さな星12個が輪になっています。脇の狭い門の先にある短い側線には、タグのない古い額縁が一つと、砂がほとんど落ちきった赤い砂時計が置かれています。
テックJP
EU AI法のディープフェイク表示、適用中 12月2日の猶予は限定的

EU AI法第50条のディープフェイク表示義務は8月2日から適用されています。12月2日に終わる猶予は、8月2日より前に市場投入した生成AI提供者の機械可読表示だけです。同日、同意のない性的ディープフェイク生成AIへの条件付き禁止も始まります。

PRISM

広告掲載について

[email protected]
PRISM

広告掲載について

[email protected]