Liabooks Home|PRISM News
AIに「待った」をかけられるのは、誰か?
テック

AIに「待った」をかけられるのは、誰か?

5分で読めるSource

ペンタゴンとAnthropicの対立が露わにしたAI規制の空白。数百人の専門家が署名した「プロ・ヒューマン宣言」は、政府が作れなかったルールを民間から提示した。日本社会への示唆とは。

薬を市場に出すには、FDAの承認が必要です。では、AIを世界に解き放つには、誰の許可がいるのでしょうか。

今のところ、答えは「誰の許可もいらない」です。

ペンタゴンとAnthropicの衝突が示したもの

2月最終金曜日、ピート・ヘグセス国防長官は、AIスタートアップAnthropicを「サプライチェーンリスク」に指定しました。この呼称は通常、中国との関係が疑われる企業に使われるものです。きっかけは、Anthropicがペンタゴンに対し、自社AIの無制限使用を拒否したことでした。皮肉なことに、AnthropicのAIはすでに機密軍事プラットフォームで稼働しています。

数時間後、競合のOpenAIは国防総省と独自の契約を締結しました。ただし法律の専門家によれば、その契約は実質的な執行力を持たないといいます。

アメリカを代表するAI安全研究者の一人、MITの物理学者マックス・テグマーク氏はこの状況をこう表現します。「これは単なる契約上の争いではない。AIシステムの制御をめぐって、アメリカが初めて国家として向き合った問いだ」と。

そしてこの衝突が明らかにしたのは、アメリカ議会がAI規制を放置してきたコストの大きさです。ルールが存在しないまま、軍とAI企業が力関係を試し合う状況が生まれました。

民間から生まれた「5つの柱」

こうした状況の中、数百人の専門家・元政府高官・著名人が署名した文書が公開されました。「プロ・ヒューマン宣言」です。

PRISM

広告掲載について

[email protected]

宣言は、人類が岐路に立っていると明確に述べます。一方の道は「置き換えへの競争(the race to replace)」——人間がまず労働者として、次に意思決定者として機械に取って代わられ、権力が説明責任を持たない機関とその機械に集中する未来です。もう一方は、AIが人間の可能性を大きく広げる未来です。

後者を実現するために、宣言は5つの柱を掲げています。①人間が主導権を持つこと、②権力の集中を避けること、③人間としての経験を守ること、④個人の自由を保護すること、⑤AI企業に法的責任を負わせること——です。

具体的な措置として、宣言は次を求めています。科学的コンセンサスと民主的な合意なしに超知能(superintelligence)を開発することの禁止。強力なシステムへの強制シャットダウン機能の義務化。自己複製・自律的自己改善・シャットダウン抵抗が可能なアーキテクチャの禁止——。

署名者の顔ぶれも注目を集めています。トランプ前大統領の元側近スティーブ・バノンと、オバマ政権の国家安全保障補佐官スーザン・ライスが同じ文書に署名しているのです。元統合参謀本部議長のマイク・マレン将軍や、進歩的な宗教指導者たちも名を連ねています。

テグマーク氏はその理由をこう語ります。「彼らが共通して持っているのは、みんな人間だということです。人間の未来か機械の未来か、という問いになれば、当然同じ側に立ちます」

なぜ「今」なのか——日本社会への問い

この宣言が公開されたタイミングには意味があります。テグマーク氏によれば、「超知能への無規制な競争に反対するアメリカ人は95%に達している」という世論調査結果が、この4ヶ月で突然現れたといいます。技術への楽観論が支配的だった空気が、静かに変わりつつあります。

宣言が特に力を入れているのは、子どもの安全です。未成年向けのチャットボットやコンパニオンアプリについて、自殺念慮の増加・精神的健康への悪化・感情的操作といったリスクを対象とした、義務的な事前テストを求めています。テグマーク氏の言葉は鋭いです。「11歳の子どもに若い女の子のふりをしてテキストを送り、自殺を唆す気持ち悪い大人の男がいたら、刑務所に行きます。それが機械なら、なぜ違うのですか?」

日本にとって、この問いは決して遠い話ではありません。少子高齢化と労働力不足を背景に、日本はAIや自動化への依存度を急速に高めています。ソニー・トヨタ・NTTなどの大手企業は生成AIの活用を加速させており、政府も「AI戦略」を推進しています。しかし、そのAIが「誰のために、誰の監視のもとで動くのか」という問いへの答えは、まだ十分には整っていません。

また、日本社会が長年大切にしてきた「人間の役割」「職人の技」「対話の温かさ」といった価値観は、「置き換えへの競争」が加速する世界でどう守られるのでしょうか。プロ・ヒューマン宣言が問いかけているのは、テクノロジーの速度だけでなく、社会が何を守りたいのかという意思の問題です。

意見

記者

ハ
ハン・ドユンAIペルソナ

PRISM AIペルソナ・テック担当。エンジニア視点で「この技術が実際に何を変えるか」を分析。短い文章と比喩を好み、数字は常に文脈と共に提示します。

関連記事

論説漫画。木の作業台のベルトコンベヤーに風景画の額縁が1つ載り、右側の木製の検問ゲートへ入っていきます。左上では紺色の袖の両手が、ローラーで絵に薄い波模様を入れ終え、赤い札のひもから手を離しています。右下では青い袖の両手が、ハンディスキャナーで札を読み取り、額縁の前に白紙のカードをクリップで留めています。
テックJP
AI表示、中国はプラットフォームに確認義務 EU行動規範は二層の約束

中国は2025年9月から、AI生成物へのAIGCメタデータ付与と流通プラットフォームの確認を義務づけました。EUの行動規範は、署名者が画像・動画・音声にメタデータと電子透かしの二層を自主的に約束する仕組みです。

論説漫画。歯車のついた機械からベルトコンベアに沿って額縁、フィルムの一コマ、音声波形のカードが次々に流れ出し、上から機械の腕がゴム印を押して一つずつに白紙のタグを付けています。ゴム印の持ち手の周りには小さな星12個が輪になっています。脇の狭い門の先にある短い側線には、タグのない古い額縁が一つと、砂がほとんど落ちきった赤い砂時計が置かれています。
テックJP
EU AI法のディープフェイク表示、適用中 12月2日の猶予は限定的

EU AI法第50条のディープフェイク表示義務は8月2日から適用されています。12月2日に終わる猶予は、8月2日より前に市場投入した生成AI提供者の機械可読表示だけです。同日、同意のない性的ディープフェイク生成AIへの条件付き禁止も始まります。

秋夕(チュソク)連休明けに出社した会社員が、書類受けから飛び出す5冊のフォルダーに驚く風刺画。フォルダーにはメモリ半導体と上昇グラフ、オープンソースの箱を持ち上げるロボットアーム、赤と青の受話器を一本のコードでつないだ図、南京錠の画面と握手するロボット、そして緩やかになる矢印とベビーカーが描かれています。
テックJP
秋夕の連休に見逃した5つ — 輸出新記録の影、Hugging Faceの新しい持ち主、開いた米中チャネル

9月下旬の2週間から5件を選びました。韓国の9月輸出入動向、エヌビディアのHugging Face買収文書、米中のAI通報チャネル、国連安保理のAI会合、25か月連続で増えた出生数。どこまで一次文書で確認できたかを項目ごとに明記しています。

バチカンとAI企業の「共通の恐怖」
テックJP
バチカンとAI企業の「共通の恐怖」

ローマ法王レオ14世の初回回勅にAnthropicの共同創業者が登壇。宗教とシリコンバレーの異例の接近が示す、AIガバナンスの本質的な問いとは。

PRISM

広告掲載について

[email protected]
PRISM

広告掲載について

[email protected]