AI戦争の霧の中で：ペンタゴンがAnthropic社を制裁、しかし戦場では依然として使用

金曜日の午後、トランプ大統領は全連邦機関に対してAnthropic社のAI技術の使用停止を命じました。その夜、ペンタゴンは同社を「サプライチェーンリスク」に指定しました。これは通常、スパイ活動が疑われる中国企業に適用される措置で、国防総省と取引のある企業にAnthropic社のツールを使用していないことの証明を求める可能性があります。

土曜日、米軍は中東司令部でAnthropic社のツールを稼働させながらイランを攻撃しました。標的設定と情報システムにこれらのツールが使用されていたのです。トランプ大統領は各機関に6か月の段階的廃止期間を設けており、これは軍事作戦からAIを一夜で切り離すことができないという暗黙の認識を示しています。

同じ条件、異なる運命

Anthropic社とペンタゴンの決裂は、表向きには「ガードレール」に関するものです。同社は自動兵器や大量監視にツールを使用することを拒否し、国防当局が合法的なあらゆるシナリオでの技術使用に包括的な許可を求めても譲歩しませんでした。CEOダリオ・アモデイ氏は、良心に反して同意できないと述べました。トランプ大統領はAnthropic社を「急進左派のウォーク企業」と呼び、軍の戦い方を決めることはできないと応じました。

禁止措置から数時間後、OpenAI社は機密扱いのペンタゴン環境にモデルを展開する新たな契約を発表しました。CEOサム・アルトマン氏は注目すべき詳細を明かしました：この合意には、Anthropic社が求めていたのと同じ大量監視と自動兵器の禁止が含まれているというのです。ペンタゴンは「これらの原則に同意し、法律と政策に反映させ、我々の合意に盛り込んだ」と彼はXに書きました。

つまり、ブラックリストに載った企業と報酬を得た企業は、機能的にほぼ同じ条件を確保したように見えます。違いはおそらく政治、より正確には、この政権が民間部門に求めているように見える従順さの認識でしょう。OpenAI社の社長は昨年、親トランプの政治行動委員会に2500万ドルを寄付しました。一方、Anthropic社はバイデン政権の元官僚を雇い、AI規制のロビー活動を行っていました。

知らないことの方が深刻

政治的な駆け引きは、実際の戦争を背景に展開されていなければ、それほど重要ではないでしょう。ウォール・ストリート・ジャーナルは、Anthropic社のClaudeが土曜日のイラン作戦に組み込まれ、情報評価、標的識別、戦闘シミュレーションに使用されたと報じました。中央司令部は進行中の作戦に関わる具体的なシステムについてのコメントを控えています。

そして、より困難な問題が浮上しました。誤標的事件でイランの150人以上の学童が死亡したと報じられた際、外部の観察者たちはすぐにAIがその誤りに関与した可能性があるかを問いました。正直な答えは、ペンタゴン外部の誰も知らず、ペンタゴンも明かしていないということです。

積極的なAI導入を任期の目玉とする国防長官ピート・ヘグセス氏には、率直になるインセンティブはほとんどありません。標的設定の誤りは新しいことではありませんが、生成AIを標的設定チェーンに導入することは新しいことです。これは、リスクの低い商業環境でも事実を幻覚し、画像を誤読し、推論でつまずく技術です。間違った答えの結果が死体の数で測られる戦争でそれを展開することは、軍事関係者を含む誰も厳密にテストしていない飛躍を表しています。

ブランドイメージという戦場

消費者の反発は勝利の行進を複雑にしました。Anthropic社のClaudeアプリはApp Storeのトップに躍り出ました。草の根ボイコット運動は、OpenAI社のペンタゴン契約を理由にChatGPTをやめるよう利用者に呼びかけました。Xでアルトマン氏は鋭い質問の集中砲火に直面しました：OpenAI社の契約がすべての合法的使用を許可するなら、明確な法的禁止のない大量監視や自動兵器をどうやって禁止できるのか？OpenAI社がAnthropic社の望んだのと同じレッドラインを確保したなら、なぜペンタゴンはAnthropic社からそれらの条件を受け入れられなかったのか？

これらの企業は有料ユーザー、企業クライアント、エンジニア人材をめぐって激しい競争を繰り広げています。どちらも利益を上げておらず、数十億ドルを燃やし続け、レースに留まるために最近数週間でさらに数百億ドルを調達しました。ペンタゴンの契約はそれぞれ約2億ドルの価値があり、これは両社が今年現金化する最大の小切手ではありませんが、突然、両社のビジネスにとって最大の脅威となりました。

Anthropic社にとって、サプライチェーンリスクの指定はペンタゴンをはるかに超えて影響します。連邦政府と取引のある企業（Anthropic社の最大の支援者であるAmazonやGoogleを含む）は、Claudeを使用していないことを証明する必要があるかもしれません。これは国防を超えて、企業売上、クラウドパートナーシップ、投資判断に波及する可能性のある問題です。