米国防総省がAI企業に「倫理ガードレール撤去」を要求

火曜日の非公開会議で、ピート・ヘグセス国防長官はAnthropic社のダリオ・アモデイCEOに厳しい最後通牒を突きつけました。「金曜日までにAIモデルから倫理ガードレールを撤去せよ。さもなくば国家の全力を挙げて対処する」。

脅迫の内容は明確でした。もしAnthropicがClaudeモデルの「あらゆる合法的使用」をペンタゴンに許可しなければ、ヘグセス長官は国防生産法を発動して協力を強制する、あるいはさらに破壊的な措置として、Anthropicをサプライチェーンリスクとして指定すると警告したのです。後者は事実上、国防総省と取引のある全ての企業からAnthropicを締め出すことを意味します。

昨日夕方、アモデイ氏は答えを出しました。彼はヘグセス長官の「最終提案」を拒否し、「AIを使って米国と他の民主主義国を守り、専制的な敵を倒すことの実存的重要性を深く信じている」と書きました。しかし、「限られたケースにおいて、AIは民主的価値を守るのではなく、むしろ損なう可能性がある」と続け、「脅迫によって我々の立場が変わることはない。良心に従い、彼らの要求に応じることはできない」と結論づけました。

単なる倫理論争を超えた争点

これは単なる倫理的論争ではありません。ますます強力になるAIに関連する国家安全保障リスクを管理するかどうかをめぐる戦いなのです。もしヘグセス長官が最後通牒を実行すれば、米軍を弱体化させ、破滅的な事故の可能性を高めることになるでしょう。

Anthropicは、同社のClaudeAIモデルが国内監視や人間が関与しない自律兵器の構築に使用されることを拒否してきました。同社の声明は、原則的な反対が大量監視に限定されていることを明確にしています。自律兵器そのものに反対しているわけではなく、すでにミサイル防衛とサイバー作戦については例外を設けています。

自律性に関する同社の躊躇は技術的なものです。大規模言語モデルは、人間のループなしに動作するにはまだ十分に信頼できません。あまりに早く、あまりに遠くまで押し進めれば、災害的なミスを招く恐れがあります。Anthropicが自律兵器の除外を求めているのは、戦うことを拒否するイデオロギー的理由からではなく、そうしたシステムを安全にするために必要な研究開発を可能にするためなのです。

国内監視をめぐる根深い対立

真に橋渡しできない溝は、国内監視をめぐるものです。国防総省は民間機関を支援する形で国内監視を行う権限を持っています。反乱法を発動した政権下、あるいは国内の反対勢力をマッピングしようとする政権下では、ペンタゴンの「あらゆる合法的使用」要求は万能鍵となる可能性があります。

アモデイ氏は最近のロス・ドウサットとのインタビューでこの危険性を明確にし、公共空間での会話録音は違法ではないものの、AIの規模が行為の性質を変えると指摘しました。アモデイ氏によれば、AIは音声を転写し、それを関連付けることで、反対派の一人だけでなく「1億人全員の地図」を作成できるといいます。「技術が憲法修正第4条の技術的な抜け道を見つけることで、それを茶番にするつもりなのか？」

AIの特殊性が問う従来の調達論理

ペンタゴンの論理は従来の調達類推に依存しています。ロッキード・マーチンが空軍にF-35の飛行方法を指示しないように、なぜAnthropicが軍にClaudeの使用方法を指示すべきなのか。民主的に選出された政府がそれらの選択を自由に行うべきです。

これは表面的には合理的に聞こえますが、AIの独自性を考慮していません。政府研究所で生まれた核エネルギーやインターネットとは異なり、AIは完全に民間部門で構想され、洗練されました。それは世界の力のバランスを覆す可能性を持つ汎用技術なのです。

これらの状況は、AI企業が政府と協力して製品に関連するリスクを検討する義務を負わせます。特に、政府の多くよりもそれについてより深い理解を持っているからです。結局のところ、もしAnthropicが自律兵器に関するすべての条件を削除し、モデルが予期しない危険な方法で動作した場合、同社は確実に責任を問われることになるでしょう。

日本への示唆と課題

日本にとって、この対立は重要な示唆を含んでいます。ソニー、トヨタ、SoftBankといった日本企業も、自社のAI技術開発において同様の判断を迫られる可能性があります。特に、日本政府が推進するSociety 5.0構想や、防衛装備庁のAI研究において、技術企業の倫理的立場と国家安全保障のバランスをどう取るかが問われています。

日本の「和」を重視する文化的背景では、対立よりも協調を通じた解決策が模索される傾向があります。しかし、AIのような変革的技術においては、時として明確な境界線を引く必要があるかもしれません。日本企業は、技術の責任ある発展と国家利益の両立という、より複雑な課題に直面することになるでしょう。