AIの「神」は兵器を制御できるか

Anthropicのダリオ・アモデイCEOが国防総省との交渉で直面した現実は、核時代の科学者たちが経験した教訓と驚くほど似ている。AI開発者は自らが作った技術の使われ方を、本当にコントロールできるのだろうか。

広島に原爆が投下された朝、ロバート・オッペンハイマーに電話をかけた人はいなかった。

ニューメキシコ州の砂漠で最初の核実験を成功させた科学者たちは、その数週間後、自分たちが作り出した兵器がどのように使われるかについて、一切の発言権を持っていなかった。兵器はトラックに積まれて運び去られ、それ以降、誰も科学者たちに「ゴーサイン」を求めることはなかった。

それから80年後の2026年2月、AnthropicのCEO、ダリオ・アモデイは同じ壁にぶつかった。

「愛の機械」と国防総省の衝突

アモデイは、AI業界で最も思慮深い楽観主義者の一人として知られています。1万5000語に及ぶ彼のマニフェスト「Machines of Loving Grace（愛の機械）」は、AIが近い将来、ノーベル賞受賞者を超える知性を持つ「天才の国」を形成し、がんや感染症を治癒し、人間の寿命を2倍にすると描いています。2035年までに、22世紀初頭の科学的成果を手にできるとも。

しかしアモデイは同時に、AI開発史上最も危険性を意識するリーダーの一人でもあります。彼はマンハッタン計画の科学者たちを自分たちの先人と重ね合わせ、『原爆の誕生』を推薦図書に挙げてきました。超人的AIは核兵器よりも危険かもしれない、という認識のもと、「正しい方法で、正しい人々によって」開発されなければならないと主張してきました。

その信念は、2026年2月27日に試された。国防総省は4日前、Anthropicに対し、軍がAIモデルClaudeを使用する際のいかなる制限も撤廃するよう最後通牒を突きつけました。Claudeはすでに米国の機密ネットワーク上で稼働しており、報道によればベネズエラとイランへの攻撃にも使用されていたといいます。

アモデイが守ろうとした「レッドライン」は2つでした。米国市民の大規模監視への使用禁止と、人間の監督なしに殺傷できる自律型兵器への使用禁止。国防総省はこれを拒否し、さらに前例のない手段に出ました。「サプライチェーンリスク指定」という措置で、Anthropicのビジネス基盤そのものを脅かしたのです。

この混乱の中、OpenAIのCEO、サム・アルトマンが素早く動き、国防総省との契約を締結しました。アモデイは社内メモで、OpenAIの対応を「安全のパフォーマンス（safety theater）」と批判しましたが、より根本的な問いには答えていません。技術を作った人間は、本当にその使われ方を決められるのか、という問いに。

核の夢と現実——歴史が繰り返すとき

広告掲載について

[email protected]

核時代の夢想家たちのリストは長いです。物理学者のレオ・シラードは、核エネルギーが人々を労働から解放し、芸術家として生きられる世界をもたらすと信じました。水爆の父、エドワード・テラーは核爆発で川の流れを変え、アラスカにクマの形をした港を掘ることができると語りました。原子力委員会委員長のルイス・ストラウスは「メーターで測るには安すぎるエネルギー」を約束し、錬金術の夢が実現し、飢餓は歴史の記憶になると言いました。

OpenAIのアルトマンが「知性もやがてメーターで測るには安すぎる」と語るとき、その言葉はストラウスの約束と奇妙なほど重なります。

物理学者のニールス・ボーアはさらに深い夢を見ました。核の恐怖があまりにも大きいため、各国の指導者は開放性と対話を選ぶしかなく、人類は道徳的に進化するだろうと。しかし現実は違いました。ボーアがルーズベルト大統領に国際的な核管理を訴えた翌年、広島に原爆が落ちました。その後の核軍縮条約は冷戦の論理に敗れ続け、現在9カ国が1万2000発以上の核弾頭を保有しています。米ロ間で最後に残っていた軍備管理条約は、先月期限切れを迎え、更新されませんでした。

核エネルギーが「メーターで測るには安すぎる」日は、いまだに来ていません。

日本という視点——核の記憶とAIの未来

日本の読者にとって、この物語には特別な重みがあります。

広島と長崎の経験を持つ日本は、核技術の「使われ方」が開発者の意図とどれほど乖離しうるかを、世界で最も深く知る国の一つです。技術の純粋な可能性と、それが戦争の論理に組み込まれたときの現実との間の溝を、歴史として体に刻んでいる。

AIをめぐる現在の議論は、その溝を再び問いかけています。ソニー、トヨタ、富士通などの日本企業もAI開発に深く関わっていますが、軍事利用の倫理的境界線について、日本社会はどのような立場を取るべきでしょうか。日本の防衛省は自律型兵器の開発に慎重な姿勢を示してきましたが、米国の同盟国として、そのAIシステムが間接的に軍事目的に使われる可能性は排除できません。

少子高齢化と労働力不足に直面する日本にとって、アモデイが描く「AIによる科学加速」の夢——がんの治療、認知症の予防、寿命の延長——は切実な希望でもあります。しかし、その同じ技術が軍事システムに組み込まれていくとき、日本は何を選ぶのか。

アモデイが直面したジレンマは、技術開発者個人の問題ではなく、民主主義社会全体が向き合うべき構造的な問いです。核時代の教訓が示すように、技術の「正しい使い方」を定義する力は、最終的には政府と軍が握ります。開発者の「レッドライン」は、国家の論理の前では脆い。

アモデイは社内メモで競合他社を批判しましたが、より深い問いには沈黙しました。自分が作ったものを、自分の意図通りに使わせることができないとわかったとき、それでも作り続けることは正しいのか——という問いに。

オッペンハイマーも、同じ問いを抱えて生きました。