AIに「待った」をかけられるのは、誰か？

薬を市場に出すには、FDAの承認が必要です。では、AIを世界に解き放つには、誰の許可がいるのでしょうか。

今のところ、答えは「誰の許可もいらない」です。

ペンタゴンとAnthropicの衝突が示したもの

2月最終金曜日、ピート・ヘグセス国防長官は、AIスタートアップAnthropicを「サプライチェーンリスク」に指定しました。この呼称は通常、中国との関係が疑われる企業に使われるものです。きっかけは、Anthropicがペンタゴンに対し、自社AIの無制限使用を拒否したことでした。皮肉なことに、AnthropicのAIはすでに機密軍事プラットフォームで稼働しています。

数時間後、競合のOpenAIは国防総省と独自の契約を締結しました。ただし法律の専門家によれば、その契約は実質的な執行力を持たないといいます。

アメリカを代表するAI安全研究者の一人、MITの物理学者マックス・テグマーク氏はこの状況をこう表現します。「これは単なる契約上の争いではない。AIシステムの制御をめぐって、アメリカが初めて国家として向き合った問いだ」と。

そしてこの衝突が明らかにしたのは、アメリカ議会がAI規制を放置してきたコストの大きさです。ルールが存在しないまま、軍とAI企業が力関係を試し合う状況が生まれました。

民間から生まれた「5つの柱」

こうした状況の中、数百人の専門家・元政府高官・著名人が署名した文書が公開されました。「プロ・ヒューマン宣言」です。

宣言は、人類が岐路に立っていると明確に述べます。一方の道は「置き換えへの競争（the race to replace）」——人間がまず労働者として、次に意思決定者として機械に取って代わられ、権力が説明責任を持たない機関とその機械に集中する未来です。もう一方は、AIが人間の可能性を大きく広げる未来です。

後者を実現するために、宣言は5つの柱を掲げています。①人間が主導権を持つこと、②権力の集中を避けること、③人間としての経験を守ること、④個人の自由を保護すること、⑤AI企業に法的責任を負わせること——です。

具体的な措置として、宣言は次を求めています。科学的コンセンサスと民主的な合意なしに超知能（superintelligence）を開発することの禁止。強力なシステムへの強制シャットダウン機能の義務化。自己複製・自律的自己改善・シャットダウン抵抗が可能なアーキテクチャの禁止——。

署名者の顔ぶれも注目を集めています。トランプ前大統領の元側近スティーブ・バノンと、オバマ政権の国家安全保障補佐官スーザン・ライスが同じ文書に署名しているのです。元統合参謀本部議長のマイク・マレン将軍や、進歩的な宗教指導者たちも名を連ねています。

テグマーク氏はその理由をこう語ります。「彼らが共通して持っているのは、みんな人間だということです。人間の未来か機械の未来か、という問いになれば、当然同じ側に立ちます」

なぜ「今」なのか——日本社会への問い

この宣言が公開されたタイミングには意味があります。テグマーク氏によれば、「超知能への無規制な競争に反対するアメリカ人は95%に達している」という世論調査結果が、この4ヶ月で突然現れたといいます。技術への楽観論が支配的だった空気が、静かに変わりつつあります。

宣言が特に力を入れているのは、子どもの安全です。未成年向けのチャットボットやコンパニオンアプリについて、自殺念慮の増加・精神的健康への悪化・感情的操作といったリスクを対象とした、義務的な事前テストを求めています。テグマーク氏の言葉は鋭いです。「11歳の子どもに若い女の子のふりをしてテキストを送り、自殺を唆す気持ち悪い大人の男がいたら、刑務所に行きます。それが機械なら、なぜ違うのですか？」

日本にとって、この問いは決して遠い話ではありません。少子高齢化と労働力不足を背景に、日本はAIや自動化への依存度を急速に高めています。ソニー・トヨタ・NTTなどの大手企業は生成AIの活用を加速させており、政府も「AI戦略」を推進しています。しかし、そのAIが「誰のために、誰の監視のもとで動くのか」という問いへの答えは、まだ十分には整っていません。

また、日本社会が長年大切にしてきた「人間の役割」「職人の技」「対話の温かさ」といった価値観は、「置き換えへの競争」が加速する世界でどう守られるのでしょうか。プロ・ヒューマン宣言が問いかけているのは、テクノロジーの速度だけでなく、社会が何を守りたいのかという意思の問題です。