AIに「キルスイッチ」はない――アンソロピックが軍に宣言

米国防総省とAI企業アンソロピックの法廷闘争が激化。「クロードを遠隔停止できない」という衝撃の証言が示す、AI兵器化時代の本質的矛盾とは。

AIが戦場で動き始めたとき、誰がそれを止められるのか。

2026年3月21日、その問いに対してAI企業アンソロピックは法廷でこう答えました。「私たちには、止める手段がありません」。

「キルスイッチ」は存在しない

米国防総省（ペンタゴン）とアンソロピックの法廷闘争が、新たな局面を迎えています。同社の公共部門責任者、ティヤグ・ラマサミー氏は今週の裁判所への提出書類の中で、軍が一度クロード（同社の生成AIモデル）を自社のシステム上で稼働させた後は、アンソロピック側には事実上何もできないと明言しました。

「アンソロピックは、クロードを停止させたり、機能を変更したり、アクセスを遮断したり、軍事作戦に影響を与えたり危険にさらしたりする能力を、これまで一度も持ったことはありません」と同氏は記しています。さらに踏み込んで、「バックドアも、遠隔『キルスイッチ』も存在しない」と断言しました。

この発言の背景には、トランプ政権側からの深刻な告発があります。ペンタゴンは、アンソロピックが自社の方針に反する軍事利用を「承認しない」場合、クロードへのアクセスを遮断したり、有害なアップデートを密かに適用したりする可能性があると主張してきました。国防長官のピート・ヘグセス氏は今月、アンソロピックを「サプライチェーンリスク」に指定。この指定により、国防総省は今後数ヶ月、請負業者を通じた利用も含め、同社のソフトウェアを使用できなくなります。

なぜ、この対立は起きたのか

事の発端は、ペンタゴンがクロードをデータ分析、メモ作成、さらには作戦計画の立案にまで活用し始めたことにあります。AIが実際の軍事判断に関与し始めた、という事実です。

アンソロピックはもともと、AIの安全性を最優先に掲げて設立された企業です。同社のポリシー責任者、サラ・ヘック氏は裁判書類の中で、3月4日に提案した契約案の内容を明らかにしました。そこには「本ライセンスは、国防省の適法な作戦意思決定を管理または拒否する権利を付与するものではない」という文言が含まれていました。つまり、アンソロピック自身が「軍の決定に口を出す権限は求めない」と明示的に約束しようとしていたのです。

広告掲載について

[email protected]

しかし、交渉は決裂しました。

アンソロピック側が特に懸念していたのは、人間の監督なしに致死的な攻撃を実行するためにクロードが使用されることでした。この点について契約上の保護を求めましたが、政府側との合意には至りませんでした。

現在、アンソロピックはこの「サプライチェーンリスク」指定の違憲性を問う訴訟を2件起こしており、緊急の差し止め命令を求めています。3月24日にはサンフランシスコの連邦地裁で審問が予定されており、判事が一時的な差し止めを決定する可能性があります。一方で、すでに複数の顧客企業が契約をキャンセルし始めています。

「信頼」の問題、それとも「制御」の問題か

この対立を、単なる企業と政府の契約紛争として見るのは表面的すぎます。

ペンタゴンの視点から見れば、これは合理的なリスク管理の問題です。「重要な軍事システムが、国家防衛や現在進行中の軍事作戦の重大な局面において危険にさらされるリスクを、国防総省は許容する必要はない」という政府弁護士の主張には、一定の論理があります。民間企業が軍の命綱を握る状況は、確かに安全保障上の脆弱性になり得ます。

アンソロピックの視点からすれば、逆説的な状況に追い込まれています。「キルスイッチを持っていない」という事実が、本来は安心材料のはずです。しかし政府はその言葉を信用せず、「持っているかもしれない」という疑念に基づいて排除を決めました。技術的な透明性が、政治的な不信を解消できない現実がここにあります。

技術者・研究者の視点では、より根本的な問いが浮かび上がります。AIシステムが一度デプロイされた後に開発者がコントロールを失うことは、安全性の観点から本当に望ましいのでしょうか。「キルスイッチがない」という事実は、安心材料であると同時に、AIガバナンスの根本的な課題を示してもいます。

日本への示唆

日本にとって、この問題は決して対岸の火事ではありません。

日本政府も現在、防衛分野へのAI活用を積極的に検討しています。防衛省はAI活用の指針策定を進めており、ソニー、富士通、NECといった日本企業も防衛関連システムへの関与を深めています。米国でこの問題が法的・政治的に整理されないまま進めば、日本が米国から調達するAIシステムの信頼性評価にも影響が及ぶ可能性があります。

また、日本企業が海外のAIサービスを業務に組み込む際の「サプライチェーンリスク」という概念は、今後の調達基準や契約条件に影響を与えるかもしれません。「AIを使う側」と「AIを作る側」の間の権限関係を、どう法的に整理するか――この問いは、日本の産業界にも突きつけられています。