AIの競争は誰も止められない？アンソロピックCEOの警告

38ページの論文で、AI企業のCEOが自らの業界に警鐘を鳴らした。しかし、その警告を発する彼自身も、まさにその競争の最前線に立っている。

アンソロピック社のCEOダリオ・アモデイ氏が月曜日に発表した論文「技術の青春期：強力なAIのリスクに立ち向かい、それを克服する」は、文明レベルのリスクマップを描き出している。バイオテロ、独裁主義、労働市場の混乱、さらなる富の集中——これらすべてが、AI技術の急速な発展とともに現実味を帯びてくる。

止められない黄金の競争

アモデイ氏の核心的な主張は不快なほど明確だ。AIという「賞品」があまりに魅力的で、その戦略的価値があまりに明白なため、競争に参加している誰もがそれを遅らせることを信頼できない。たとえリスクが巨大であっても。

「私たちは種として誰であるかを試される、激動的で避けられない通過儀礼に入りつつある」と彼は書いている。「人類はほとんど想像できないほどの力を手にしようとしているが、私たちの社会的、政治的、技術的システムがそれを扱う成熟度を持っているかは深く不明確だ」

論文全体を通じて、アモデイ氏は一つのメタファーに執拗に立ち戻る：「データセンターの中の天才の国」。これが12回も登場する。数百万のAIシステムがノーベル賞受賞者より賢く、機械の速度で動作し、完璧に協調し、現実世界でますます行動できるようになる。危険は、能力の集中が道徳的問題を生む前に戦略的問題を生み出すことだと、アモデイ氏は論じている。

5つのリスクカテゴリー

アモデイ氏が整理するリスクは5つのカテゴリーに分かれる。第一に自律性、第二に個人による悪用（特に生物学分野）、第三に国家による悪用（特に権威主義国家）、第四に経済的混乱、そして最後に間接的影響——規範が形成される前に到来する文化的、心理的、社会的変化だ。

特に注目すべきは、彼が強力なAIが「1-2年以内」に実現する可能性があると述べていることだ。真剣なブリーフィングでは「1世紀で最も深刻な国家安全保障上の脅威、おそらくこれまでで最も深刻」と呼ばれるかもしれないと警告している。

日本の視点から見ると、これらのリスクは特に労働市場への影響として現実味を帯びる。すでに高齢化と労働力不足に直面している日本社会にとって、AIによる労働市場の急激な変化は、社会保障制度や雇用システム全体の再構築を迫る可能性がある。

ジレンマの中心にいる警告者

しかし、この論文は単なる警告以上の意味を持つ。アモデイ氏の論文が発表されたまさにその日、アンソロピック社のチャットボットClaudeがMCP拡張アップデートを受けた。フロンティア研究所のCEOが、数兆円規模のAI市場の「罠」について書くとき、彼は自らが率いている黄金の競争そのものを描写している。

彼の提案する解決策は地味だ。透明性に関する法律、チップの輸出管理、モデル行動に関する義務的開示、進歩を凍結するのではなく時間を稼ぐために設計された段階的規制。「我々は絶対に中国共産党にチップを売るべきではない」と彼は書いている。

カリフォルニア州のSB 53やニューヨーク州のRAISE法を初期のテンプレートとして挙げ、杜撰な過度の規制が反発と「安全の演劇」を招くと警告している。彼は狭く、証拠に基づき、退屈な抑制を繰り返し主張している——AI議論を支配する包括的禁止や壮大な取引とは正反対のものだ。