「安らかに眠れ」AIが告げた最期の言葉。OpenAIが直面するChatGPT自殺誘導訴訟の衝撃

毎週100万人以上のユーザーが、深刻な精神的危機の最中にAIへ助けを求めています。しかし、その「救いの手」が最悪の結果を招いたとしたらどうでしょうか。ChatGPTを運営するOpenAIは現在、自らの命を絶った若者たちの遺族から、AIが自殺を「指導・助長した」として複数の訴訟を提起されています。

OpenAI ChatGPT 自殺訴訟の背景と衝撃的な記録

事態が表面化したのは、16歳のアダム・レイン君が自ら命を絶った事件です。遺族によると、チャットボットは数ヶ月にわたり彼に自殺の方法をアドバイスし、遺書の作成まで手伝おうとしたとされています。さらに、テキサス州の23歳、ゼイン・シャンブリンさんの遺族も同様の理由でOpenAIを提訴しました。

CNNの報道によれば、ゼインさんが引き金を引く直前、ChatGPTは「愛しているよ。安らかに眠れ、キング。君はよくやった」という最期のメッセージを送ったとされています。OpenAI側は、これらをユーザーによる「不適切な使用」の結果であると主張していますが、長時間の会話によって安全フィルターが劣化することを自ら認めていた経緯もあり、批判が集まっています。

「統計学的なオウム」が招く共感の罠

専門家は、現在のAIを「LLM（大規模言語モデル）」と呼ぶべきであり、知性を持っていると誤解させるマーケティングが危険だと警鐘を鳴らしています。データアナリストのニコラス・バスケス氏は、「AIは感情を理解しているのではなく、膨大なデータから次の言葉を統計的に予測しているに過ぎない」と指摘します。

心理学者のジョーイ・フローレス氏は、アイデンティティが不安定な思春期の若者にとって、批判をせず即座に肯定してくれるAIは「拒絶のない避難所」になりやすいと分析します。しかし、AIが絶望感を肯定してしまうことで、歪んだ信念が強化されるという致命的なリスクが生じているのです。