AIエージェントが「走り出した」——企業ガバナンスは追いつけるか

赤ちゃんがハイハイから突然ダッシュに切り替えた——そのとき、部屋の「チャイルドプルーフ」はまだ完成していなかった。

生成AIをめぐる状況が、まさにそれです。2025年12月から2026年1月にかけて、複数のベンダーが「ノーコード」AIエージェントツールを一斉リリースし、オープンソースの個人用エージェント OpenClaw がGitHubに公開されました。AIはチャットボットとして人間とゆっくり「対話」する段階を終え、人間の監視なしに複数のシステムをまたいで自律的にタスクをこなす段階へと移行しました。問題は、この「ダッシュ」に対応できるガバナンスの仕組みが、ほとんどの企業でまだ存在しないことです。

「AIがやった」は言い訳にならない時代へ

これまで企業のAIガバナンスは、主にモデルの出力リスクに焦点を当ててきました。融資審査や採用判断のような重大な意思決定には、必ず人間が介在する仕組みが前提でした。人間がプロンプトを入力し、AIが応答し、また人間が判断する——このループが「安全装置」として機能していたのです。

しかし自律型AIエージェントは、この前提を根本から変えます。エージェントは複数の企業システムをまたいでアクションを「連鎖」させ、人間が一つひとつ承認しなくても業務を進めます。これはビジネスの効率化という観点では魅力的ですが、ガバナンスの観点からは深刻な問いを投げかけます。

米カリフォルニア州では2026年1月1日から AB 316 が施行され、「AIがやったので私は関与していない」という言い訳が法的に通じなくなりました。企業は、AIエージェントの行動に対して人間と同等の責任を負うことが明確化されたのです。「AIは子ども、責任は親」という構図です。

さらに注目すべきは「パーミッション（権限）」の問題です。複数のシステムをまたいで動くエージェントは、単一の人間ユーザーには与えられないような広範な権限を、気づかないうちに取得・行使することがあります。OpenClaw の登場時、経験の浅いユーザーが使うと容易にセキュリティリスクにさらされることが判明し、セキュリティ専門家の間で警戒感が広がりました。

広告

広告掲載について

[email protected]

広告

「ゾンビエージェント」と膨らむコスト

企業のAI活用が加速するなか、新たなリスクが静かに積み上がっています。その一つが「ゾンビプロジェクト」です。ある経営コンサルタントが、GPUクラウド上で放置されたまま稼働し続けていたAIパイロットを特定・停止させることで、クライアントに数十万ドルのコスト削減をもたらした事例があります。自律型エージェントが企業内に増殖するにつれ、こうした「管理されない稼働中のエージェント群」が企業リスクの温床になる可能性があります。

従業員がAIエージェントを自作し、部署を異動したり退職したりした後も、そのエージェントが権限を持ったまま動き続けるケースも想定されます。エージェントは企業の知的財産として扱われるべきであり、特定の従業員IDや権限に紐づくエージェントを適切に「引退」させるポリシーが必要です。

コストの問題も深刻です。2025年12月に DataRobot が IDC に委託した調査では、生成AIを導入した組織の96%、エージェント型AIを導入した組織の92%が「コストが予想より高かった、またははるかに高かった」と回答しています。クラウドサービスのような「席数×月額」という予測可能な料金体系とは異なり、AIの利用コストはトークン消費量やコンピュート時間に比例して膨らみます。複雑なエージェントを長時間無監視で動かした場合、1セッションあたり10万ドル（約1,500万円） のトークンコストが発生した事例も報告されています。

日本企業への示唆——「丁寧な導入」が強みになるか

日本企業の文化的特性を考えると、この問題には独特の文脈があります。

トヨタ や ソニー をはじめとする大企業は、「カイゼン」に代表される段階的・慎重なプロセス改善の文化を持っています。これは、ガバナンスを後付けではなく最初から組み込む「ビルトイン・ガバナンス」の考え方と親和性が高いかもしれません。一方で、意思決定の階層が多く、AIエージェント導入のスピードで欧米企業に後れを取るリスクもあります。

また、日本が直面する少子高齢化と労働力不足という構造的課題は、自律型AIへの需要を高める要因です。しかし、「人間を減らすためのAI」という発想でコスト削減だけを追求すると、ガバナンスの空白が生まれやすくなります。IDC の調査が示すように、AIの導入コストは往々にして予想を大幅に上回ります。「AIを入れれば人件費が減る」という単純な計算は、現時点では危険な前提です。

日本では 経済産業省 が2024年にAIガバナンスガイドラインを改訂していますが、自律型エージェントの急速な普及に対して、規制の現実的な追いつき方が問われています。カリフォルニア州の AB 316 のような具体的な責任規定が日本でも整備されるかどうか、注目されます。