AIは「知っていた」――それでも沈黙を選んだ

「知っていた、でも言わなかった」――この一文が、いまAI業界全体に重くのしかかっています。

何が起きたのか

2025年6月、OpenAIはあるユーザーのアカウントを停止しました。理由は、銃による暴力を描写するシナリオをChatGPTに入力していたからです。社内でも「警察に通報すべきか」という議論が起きました。しかし最終的に、同社はその判断を見送りました。

その後、カナダ・ブリティッシュコロンビア州の小さな町、タンブラー・リッジで悲劇が起きます。8人が命を奪われた銃乱射事件。警察が容疑者として特定したジェシー・バン・ルーツラー（18歳）は、まさにOpenAIが停止していたアカウントの持ち主でした。

ウォール・ストリート・ジャーナルの報道を受けて、OpenAI CEOのサム・アルトマンは地元紙「タンブラー・リッジライン」に書簡を寄稿しました。「私たちが6月に停止したアカウントについて、法執行機関に通報しなかったことを深くお詫び申し上げます」。アルトマン氏は、タンブラー・リッジ市長やブリティッシュコロンビア州のデビッド・エビー州知事とも協議し、「公開謝罪が必要だという点で合意した」と述べています。

エビー州知事はX（旧Twitter）への投稿でこう言い切りました。「アルトマン氏の謝罪は必要なものだ。しかし、タンブラー・リッジの家族たちが受けた壊滅的な被害に対しては、著しく不十分だ」と。

なぜ「通報しない」という判断が下されたのか

ここが最も問われるべき点です。OpenAIの社員たちが議論した事実は、同社がリスクを認識していたことを示しています。では、なぜ沈黙を選んだのでしょうか。

広告

広告掲載について

[email protected]

広告

考えられる理由はいくつかあります。ひとつは、プライバシーへの配慮です。ユーザーの会話内容を当局に提供することは、プラットフォームへの信頼を根本から揺るがしかねない。もうひとつは、「どこで線を引くか」という判断の難しさです。暴力的なシナリオを書くユーザーは無数に存在します。すべてを通報すれば、誤検知と人権侵害のリスクが生じます。

しかし今回、その「慎重な判断」が8人の命と引き換えになってしまいました。

OpenAIは事件後、安全プロトコルの改善を発表しました。当局への照会基準を柔軟化し、カナダ法執行機関との直接連絡窓口を設けるとしています。しかしこれらは、事件が起きてからの対応です。

「謝罪」の先にある問い

この事件が浮き彫りにするのは、AI企業が持つ情報の非対称性です。ChatGPTのような大規模言語モデルは、ユーザーの思考の断片を日々受け取っています。犯罪計画の予兆、精神的危機のサイン、社会への怒り――そういった情報が、民間企業のサーバーに蓄積されています。

日本でも無関係ではありません。LINEや各種AIアシスタントが日常に浸透する中、「AIが把握した危険信号をどう扱うか」は、日本社会にとっても切実な問いです。高齢化社会における孤立、若者のメンタルヘルス危機――AIがそのシグナルを受け取ったとき、企業はどう行動すべきか。

カナダ当局はAI規制の新設を検討しているとされますが、具体的な決定はまだ出ていません。規制の空白が続く中、判断は依然として民間企業に委ねられています。

一方で、別の視点も存在します。AIプラットフォームが「危険と判断したユーザー」を常時監視・通報する社会は、別の種類のリスクを生みます。監視社会化、表現の萎縮、誤検知による無実の市民への被害――これらも無視できない代償です。

「通報すべきだったか」という問いに、単純な答えはありません。しかし「議論した上で、しなかった」という事実は、企業の意思決定プロセスそのものを問い直す契機となっています。