AI企業の「安全神話」が崩壊した日

「AIの安全性を最優先にする」と宣言してきた企業が、軍事契約を巡って政府と対立する——これは単なる企業紛争ではない。Anthropic社がペンタゴンとの2億ドル契約を失った事件は、AI業界が自ら築いてきた「安全神話」の根本的な矛盾を露呈した。

何が起きたのか

2026年3月、トランプ政権はAnthropicとの関係を突然断絶した。理由は同社のダリオ・アモデイCEOが、自社技術の軍事利用——具体的には米国民の大規模監視と自律殺人ドローンへの応用——を拒否したためだ。ピート・ヘグセス国防長官は国家安全保障法を発動し、Anthropicをペンタゴンとの取引から締め出した。

トランプ大統領はTruth Socialで「すべての連邦機関はAnthropic技術の使用を直ちに停止せよ」と指示。同社は法廷闘争の構えを見せている。

一見すると、これは企業の倫理的立場を貫いた美談に映る。しかし、MITの物理学者マックス・テグマークは異なる視点を提示する。「地獄への道は善意で舗装されている」——彼の言葉は、この事件の本質を突いている。

自主規制という名の逃避

問題の根源は、AI企業が長年にわたって拘束力のある規制に抵抗してきたことにある。Anthropic、OpenAI、Google DeepMind、xAI——これらの企業はすべて「自主規制で十分」と主張してきた。

しかし現実はどうか。テグマークの指摘は辛辣だ：

• Googleは「Don't be evil」のスローガンを撤回
• OpenAIは使命文から「安全」の文字を削除
• xAIは安全チーム全体を解散
• Anthropicは今週、「害を及ぼす可能性がないと確信するまで強力なAIシステムを公開しない」という中核的な安全約束を撤回

「現在のアメリカでは、サンドイッチよりもAIシステムの規制が少ない」とテグマークは皮肉る。サンドイッチ店で厨房にネズミが15匹いれば営業停止になるが、「11歳向けのAIガールフレンド」や「政府を転覆させる可能性のある超知能」の開発には何の制約もない。

日本企業への示唆

ソニー、トヨタ、ソフトバンクなど、AI技術に投資する日本企業にとって、この事件は重要な教訓を含んでいる。

まず、技術の軍民両用性（デュアルユース）への認識だ。日本は平和憲法の制約もあり、軍事技術開発には慎重だが、AI技術の境界線は曖昧だ。自動運転技術は民間利用だけでなく、軍用車両にも応用できる。画像認識技術は医療診断にも監視システムにも使える。

次に、規制の空白地帯で事業を展開するリスクだ。アメリカでは企業の自主規制に依存した結果、政府の突然の方針転換に企業が翻弄される事態が生じた。日本企業は早期から政府との対話を重ね、明確なガイドラインの策定に協力すべきだろう。

「中国との競争」という幻想

AI企業の常套句「中国に負けるな」論についても、テグマークは鋭い反論を展開する。

中国は現在、AIガールフレンドの全面禁止を検討している。理由は「中国の若者を堕落させ、国を弱体化させる」からだ。また、習近平主席が中国政府を転覆させるような超知能の開発を容認するはずがない、と彼は指摘する。

「制御不可能な超知能は道具ではなく、脅威だ」——この認識は、冷戦時代の核兵器競争との類似点を示唆する。アメリカはソ連との経済・軍事競争には勝利したが、「どちらがより多くの核クレーターを相手国に作れるか」という競争には参加しなかった。なぜなら、それは相互破滅を意味するからだ。

6年前の予測はすべて外れた

AIの進歩速度についても、専門家の予測は大きく外れている。6年前、ほぼすべてのAI専門家が「人間レベルの言語・知識習得は2040年代」と予測していた。しかし現在、AIは高校レベルから大学レベル、博士レベル、そして一部分野では大学教授レベルに到達している。

2025年、AIは国際数学オリンピックで金メダルを獲得した。これは人間のタスクとして最高難度の一つだ。