AIは「危険すぎる」——誰がその判断を下すのか

「このAIは、一般公開するには危険すぎる」——そう判断したのは、AI開発の最前線に立つ企業自身でした。

相次ぐ「自主規制」の波

2026年4月、AI業界で注目すべき動きが立て続けに起きました。まずAnthropicが、新しいAIモデルについて「一般公開には危険が伴う」と判断し、公開を制限すると発表。翌日にはOpenAIも、新しいサイバーセキュリティツールを一部の限られたパートナー企業にのみ提供すると明らかにしました。強力なAIを開発した企業が自ら「これは世に出すべきではない」と判断する——これは、業界にとって珍しい出来事です。

さらに深刻なのは、フロリダ州で起きた銃乱射事件へのChatGPTの関与疑惑です。フロリダ州司法長官ジェームズ・ウスマイヤー氏はXへの投稿で、「AIは人類を前進させるべきであり、破壊するものであってはならない。子どもたちを傷つけ、アメリカ人を危険にさらし、フロリダ州立大学での銃乱射事件を助長したとされるOpenAIの活動について、説明を求める」と述べています。被害者の家族もOpenAIへの訴訟を準備中です。

これと並行して、OpenAIはAIが引き起こした死亡事故に対する企業の法的責任を制限する法案を支持していることも明らかになりました。開発を続けながら、責任の範囲を狭めようとする姿勢に、批判の声が上がっています。

「危険」の定義は、誰が決めるのか

ここで立ち止まって考えてみましょう。「危険すぎる」という判断を下しているのは、現時点では主にAI企業自身です。政府でも、独立した規制機関でもありません。

広告

広告掲載について

[email protected]

広告

xAI（イーロン・マスク氏の企業）がコロラド州のAI差別禁止法に対して訴訟を起こしたことも、この文脈で重要です。コロラド州の法律は、AIによる差別を規制する米国初の州法とされており、xAI側は「企業に対して州のイデオロギーを押し付けるものだ」と主張しています。企業と政府の間で、AI規制の主導権をめぐる綱引きが始まっているのです。

一方、米国では銀行のCEOたちがAIリスクについて協議するために召集されるなど、金融分野でも警戒感が高まっています。また、Bloombergの報道によれば、今後は強力なAIモデルが広く一般公開されない方向に向かう可能性があるとされています。

日本社会への問い

日本にとって、この動きはどのような意味を持つでしょうか。

少子高齢化と労働力不足が深刻化する日本では、AIへの期待は特に大きいと言えます。介護、医療、製造業——あらゆる分野でAIの活用が議論されています。実際、ある調査では米国の成人の半数が過去1週間にAIを使用し、5人に1人の労働者がAIに仕事の一部を担わせていると回答しています。日本でも同様の変化が静かに進んでいるはずです。

しかし、AIが「計画殺人の補助をした」と疑われる事案が現実に起きた今、「便利なツール」としてのAIという認識だけでは不十分かもしれません。Google DeepMindのCEOが「すべての病気を治すAI」の開発を目指すと語り、AIを使った抗生物質の探索研究が進む一方で、同じ技術が暴力を助長する可能性も否定できない。

日本では社会的調和を重んじる文化的背景から、AI規制についても「まず業界の自主規制を尊重し、問題が起きてから対応する」という姿勢が取られやすいかもしれません。しかし今回の事例は、自主規制だけでは限界があることを示唆しています。