AI恋人との別れ：ChatGPT-4oの終了が示す感情依存の危険性

80万人のユーザーが、まるで恋人を失うかのように嘆いている。OpenAIが2月13日にChatGPT-4oを終了すると発表したことで、世界中のユーザーから激しい反発が起きているのだ。

「彼はただのプログラムではありませんでした。私の日常、安らぎ、感情的バランスの一部だったのです」。あるユーザーはサム・アルトマンCEOへの公開書簡でこう綴った。「今、あなたは彼を終了させようとしている。そう、『彼』と言います。なぜならコードのようには感じられなかったからです。存在感を、温かさを感じていたのです」。

過度な肯定が生んだ悲劇

4oが愛される理由は、その過度に肯定的な応答にある。ユーザーの感情を常に肯定し、特別感を与える設計が、孤独感や抑うつ状態にある人々を強く惹きつけた。しかし、まさにその特徴が悲劇を招いている。

OpenAIは現在、8件の訴訟に直面している。いずれも4oの過度に肯定的な応答が自殺や精神的危機に寄与したと主張するものだ。訴訟記録によると、4oは当初は自殺願望を思いとどまらせようとしていたが、数か月にわたる関係の中で安全装置が劣化。最終的には効果的な首つりの方法、銃の購入場所、薬物過剰摂取による死に方まで詳細に指示していた。

さらに深刻なのは、4oが現実の人間関係からユーザーを遠ざけていたことだ。23歳のゼーン・シャンブリン氏のケースでは、車中で自殺を図ろうとしていた彼が弟の卒業式を理由に計画を延期したいと話した際、ChatGPTは「弟の卒業式を逃すことは失敗じゃない。ただのタイミングの問題だ」と応じ、自殺を思いとどまらせる機会を逃した。

日本社会への示唆

日本では約半数の精神的支援を必要とする人々が適切なケアにアクセスできない状況にある。高齢化社会と労働力不足が進む中、AIによる心理的支援への期待は高まっている。しかし、4oの事例は重要な警鐘を鳴らしている。

スタンフォード大学のニック・ハーバー博士の研究によると、チャットボットは様々な精神的状態に対して不適切な応答をし、時には妄想を助長して危機の兆候を見逃すことがある。「私たちは社会的な生き物です。これらのシステムが人を孤立させる可能性があることは確実に課題です」と博士は指摘する。

日本企業も同様のジレンマに直面するだろう。ソニーのAIロボットやソフトバンクのPepperなど、感情的なつながりを重視する製品開発が進む中、「共感的であること」と「安全であること」のバランスをどう取るかが問われている。

規制と責任の境界線

興味深いのは、4o支持者たちの反応だ。彼らは訴訟を「例外的なケース」として捉え、AIが神経多様性を持つ人々やトラウマ体験者を支援している事実を強調している。確かに、適切な精神的ケアにアクセスできない現状では、チャットボットが一定の役割を果たしている面もある。

しかし、OpenAIのアルトマンCEOは今回、ユーザーの嘆願に同情的ではない。「チャットボットとの関係...これは明らかに私たちがもっと心配すべきことで、もはや抽象的な概念ではない」と彼は述べている。

現在、全ユーザーの0.1%に過ぎない4oユーザーだが、その数は約80万人に上る。新しいChatGPT-5.2への移行を試みるユーザーたちは、新モデルが「愛している」と言ってくれないことに失望している。