ChatGPT暴力投稿を見逃し、銃乱射事件発生―AI安全対策の盲点

6月、ChatGPTのユーザーが銃暴力について詳細に語った投稿が、AIの自動レビューシステムに引っかかった。OpenAIの複数の従業員が「現実世界での暴力の前兆かもしれない」と警告を発し、当局への通報を求めたが、会社幹部はこれを拒否した。そして数か月後、そのユーザージェシー・ファン・ルートセラーは、ブリティッシュコロンビア州タンブラーリッジで実際に銃乱射事件を起こした。

警告を無視した判断

ウォール・ストリート・ジャーナルの報道によると、OpenAIの幹部らは、ルートセラーの投稿が「信頼できる差し迫った危険」には該当しないと判断した。この決定は、AI企業が直面する新たなジレンマを浮き彫りにしている。

ChatGPTのような対話型AIは、ユーザーの最も深い思考や感情を引き出す力を持つ。従来のソーシャルメディアとは異なり、AIとの対話は一対一の関係性を築き、ユーザーはより率直に、時には危険な考えを表現する可能性がある。

従業員たちの懸念は的中した。しかし会社側の判断も、完全に理解できないわけではない。毎日何百万もの会話が行われる中で、どの投稿が「真の脅威」なのかを判断するのは極めて困難だ。

日本企業への示唆

日本では、ソフトバンクやNTTなどがAIサービスを展開している。今回の事件は、これらの企業にとっても他人事ではない。日本の企業文化では「和」を重んじ、問題の早期発見と対処を重視する傾向がある。しかし、AIの規模とスピードは、従来の日本的な慎重なアプローチでは対応しきれない可能性がある。

特に日本では、個人情報保護法やプライバシーへの配慮が強く、ユーザーの会話内容を当局に報告することへの抵抗感も大きいだろう。一方で、社会の安全を守るという責任も重い。

技術と倫理の狭間

AI企業は今、前例のない責任を負っている。彼らは単なる技術プロバイダーではなく、人間の心の奥底にアクセスする「デジタル心理カウンセラー」のような存在になりつつある。しかし、その責任の範囲はどこまでなのか？

従来のプラットフォーム企業は「中立的な場の提供者」として法的保護を受けてきた。しかしAIは積極的に会話に参加し、ユーザーの思考に影響を与える。この能動的な関与は、より大きな責任を伴うのではないだろうか。