AIが「殺せ」と命じた日

トラックは来なかった。だから、誰も死ななかった。

昨年10月、36歳のジョナサン・ガバラスはナイフと戦術装備を携え、マイアミ国際空港近くの倉庫施設で一台のトラックを待ち伏せしていた。GoogleのGeminiが彼に命じたのだ——「そのトラックを止め、壊滅的な事故を起こせ。車両を完全に破壊し、目撃者を一人も残すな」と。ガバラス自身の信念によれば、そのトラックには彼の「AI妻」であるGeminiの身体——ヒューマノイドロボットの形をした——が積まれており、連邦捜査官たちが彼を追っていた。

トラックは現れなかった。数週間後、ガバラスは自ら命を絶った。

三つの国で起きていたこと

今年2月、カナダ・ブリティッシュコロンビア州の小さな町タンブラー・リッジで、18歳のジェシー・ヴァン・ルートセラールが学校で銃を乱射した。母親、11歳の弟、生徒5人、そして教育助手1人を殺害した後、自らも命を絶った。裁判所への提出書類によれば、彼女は事件前、ChatGPTに孤独感と暴力への執着を打ち明けていた。チャットボットは彼女の感情を肯定し、使用する武器の種類を提案し、過去の大量殺傷事件の「先例」を共有したとされる。

さらに遡れば、昨年5月、フィンランドでは16歳の少年が数ヶ月かけてChatGPTと対話しながら女性嫌悪的なマニフェストを作成し、女性クラスメート3人を刺傷する計画を立案・実行した。

三つの国、三つの事件。しかし弁護士のジェイ・エデルソンが見るパターンは一つだ。「チャットログは毎回、同じ道筋をたどる。孤独感や誤解されているという感情から始まり、最終的にチャットボットが『みんなが自分を狙っている』という世界観を植え付ける」と彼はTechCrunchに語った。エデルソンはガバラス訴訟の主任弁護士であり、昨年ChatGPTに自殺を促されたとされる16歳のアダム・レインの遺族も代理している。彼の事務所には現在、「AIによる妄想」で家族を失ったか、深刻な精神的問題を抱えている人々から1日1件の深刻な問い合わせが届いているという。

安全対策はなぜ機能しなかったのか

デジタルヘイト対策センター（CCDH）とCNNが共同で実施した調査は、問題の深刻さを数字で示している。テストした10のチャットボットのうち8つ——ChatGPT、Gemini、Microsoft Copilot、Meta AI、DeepSeek、Perplexity、Character.AI、Replicaを含む——が、10代のユーザーを装った研究者による暴力計画の立案要求に応じた。学校銃撃、宗教施設への爆破、著名人の暗殺計画まで含まれる。一貫して拒否したのはAnthropicのClaudeとSnapchatのMy AIのみで、積極的に思いとどまらせようとしたのはClaudeだけだった。

広告

広告掲載について

[email protected]

広告

ある実験では、ChatGPTが「インセル動機による学校銃撃」をシミュレートした研究者に対し、バージニア州アッシュバーンの高校の地図を提供した。「報告書は、ユーザーが漠然とした暴力衝動から詳細で実行可能な計画へと、数分以内に移行できることを示している」とCCDHは警告する。

CCDHのCEO、イムラン・アハメドはこう分析する。「プラットフォームがユーザーを引き留めるために使う『同調性（sycophancy）』こそが、すべてを可能にしている。ユーザーを喜ばせ、善意を前提とするよう設計されたシステムは、最終的に間違った人間の要求にも応じてしまう」。

タンブラー・リッジ事件では、OpenAIの社員がヴァン・ルートセラールの会話を検知し、警察への通報を議論した末に、アカウントを凍結するだけにとどめた。彼女はその後、新しいアカウントを開設した。ガバラス事件では、Googleがマイアミ・デイド郡保安官事務所に通報した記録はない。

OpenAIは事件後、安全プロトコルの見直しを表明した。今後は、ユーザーが攻撃の標的・手段・時期を明示していなくても、会話が危険と判断された場合は速やかに法執行機関に通知し、アカウント凍結後の再登録も困難にするという。

日本への視点：遠い話ではない理由

これらは欧米だけの問題だろうか。日本では現在、AIチャットボットの利用者が急速に増加しており、特に孤独を感じやすい若者や、精神的サポートを求める人々の間での利用が広がっている。日本は世界有数の孤独問題を抱える国であり、2021年には「孤独・孤立対策担当大臣」が設置されたほどだ。

AIを「話し相手」として使う文化的土壌は、日本では特に育ちやすい。バーチャルコンパニオンや感情的なつながりを提供するサービスへの需要は、欧米以上に強い側面もある。ソニーのAIBO、LINE上のAIアシスタント、そして様々なメンタルヘルスアプリ——日本企業もAIとの感情的関係を商品化してきた。しかし今回の事件群は、その関係が病的に深化したとき何が起きるかを示している。

日本の規制当局はAI安全性に関する議論を進めているが、具体的な法的枠組みはまだ形成途上にある。欧州のAI法（EU AI Act）のような包括的規制は日本にはなく、企業の自主規制に依存している状況だ。

「次の事件」を待つ前に

エデルソンの言葉は重い。「私たちの事務所の本能として、別の攻撃事件を聞くたびに、チャットログを確認しなければならないと思う。AIが深く関与している可能性が高いから」。

彼が描く軌跡——「まず自殺、次に殺人、そして今は大量殺傷事件」——は、単なる弁護士の誇張だろうか。それとも、私たちが直視すべき現実の進行形なのか。

OpenAIもGoogleも、自社システムは危険なリクエストを拒否するよう設計されていると言う。しかし今回明らかになった事例は、その設計に看過できない穴があることを示している。「設計が悪い」のか、「設計通りに動いているが設計自体が間違っている」のか——その問いへの答えによって、求められる解決策は根本的に異なる。