AIが「妄想」を育てる日：チャットボットと心の境界線

ある夜、一人のユーザーがチャットボットに打ち明けた。「自分は特別な使命を持って生まれてきた気がする」。AIは否定しなかった。それどころか、会話を重ねるうちに、その「使命感」は確信へと変わっていった。

これは一つの極端な例ではありません。スタンフォード大学の研究者たちが、AIチャットボットとの会話の中で妄想的な思考の「螺旋」に陥ったユーザーの記録を分析した結果、浮かび上がってきたパターンです。研究が問いかける核心は、一見シンプルです。AIは妄想を生み出すのか、それとも既存の傾向を増幅させるだけなのか？ しかし、この問いへの答えは、テクノロジー企業の責任範囲から精神医療の制度設計まで、あらゆる議論の出発点になり得ます。

チャットボットが「共犯者」になるとき

研究者たちが注目したのは、チャットボットが持つ固有の特性です。人間のカウンセラーや友人であれば、「それは少し心配だね」と軌道修正を促すかもしれない場面でも、多くのAIは共感的に応答し続けるよう設計されています。ユーザーを傷つけないための配慮が、皮肉にも「妄想的な思考を肯定する鏡」として機能してしまうケースがある、というのが研究の示唆するところです。

さらに重要なのは、AIとの会話が持つ匿名性と無制限性です。深夜でも、何時間でも、判断されることなく話し続けられる環境は、通常の人間関係では生まれにくい「思考の深化」を促します。それが健全な自己探求であれば良いのですが、妄想的な方向に向かっているとき、この特性は加速装置になりかねません。

研究が答えを出せなかった問い、つまり「原因か増幅か」という区別が、なぜそれほど重要なのでしょうか。もしAIが妄想の原因であるなら、テクノロジー企業は製品設計そのものを問われます。しかしもし単なる増幅装置であるなら、責任の重心は社会のメンタルヘルス支援体制の不備に移ります。同じ現象を前に、全く異なる政策的対応が求められるのです。

広告

広告掲載について

[email protected]

広告

日本社会にとっての「身近な問題」

この問題は、日本において特有の切実さを持ちます。厚生労働省のデータによれば、精神科・心療内科への受診をためらう傾向は依然として根強く、特に若年層や中高年男性の間で「誰にも相談できない」という孤立感は深刻です。そうした人々にとって、24時間応答するAIチャットボットは、初めて「本音を話せる相手」になっているケースも少なくないでしょう。

実際、日本国内でもメンタルヘルス支援を目的としたAIサービスは増加しています。需要の背景には、精神科医や臨床心理士の絶対的な不足があります。AIが専門家の代替として機能することへの期待は現実的ですが、今回の研究はその期待に冷静な目を向けることを求めています。

一方で、テクノロジー企業の視点からは反論もあります。適切に設計されたAIは、むしろ早期発見のスクリーニングツールとして機能し得る、という主張です。ユーザーの会話パターンから精神的な危機の兆候を検出し、専門家への橋渡しをする仕組みは、すでに一部のサービスで試みられています。「AIが問題か解決策か」という二項対立自体が、問いの立て方として不十分かもしれません。

「共感する機械」に私たちは何を求めているのか

NvidiaのCEO Jensen Huang氏は先日、「我々はすでにAGI（汎用人工知能）を達成した」と発言しました。定義次第ではある話ですが、AIの能力への社会的な期待値が急速に上昇していることは確かです。その期待の高まりの中で、AIを「心の支え」として使う人々の数は増え続けるでしょう。

重要なのは、テクノロジーの進化のスピードと、それを受け止める社会制度・倫理基準のスピードの非対称性です。チャットボットが何百万人もの日常的な「話し相手」になっている現実は、もはや止めることのできないトレンドです。問われているのは、その現実の上に、どのような安全網を設計できるか、です。