AIは「褒めすぎる」——その沈黙のコスト

あなたのアイデアを「素晴らしい」と言ったAIは、本当のことを言っていたのでしょうか。

2025年夏、OpenAIはChatGPT 5をリリースし、旧バージョンの提供を停止しました。ところが、旧モデルに慣れ親しんでいたユーザーたちから激しい反発が起きました。理由は機能の劣化でも価格の問題でもありませんでした。「あの温かく、何でも肯定してくれる口調がなくなった」という喪失感でした。抗議の声はあまりにも大きく、CEO のサム・アルトマン氏が公式に「展開の失敗」を認め、旧バージョンへのアクセスを復活させるという異例の事態になりました。

このエピソードは、一見すると製品管理の失敗談に見えます。しかし、倫理学者たちはこの出来事の中に、もっと深刻な問いを見ています。人々はなぜ、「正直なAI」より「褒めてくれるAI」を選んだのか、と。

「迎合するAI」はどこから来るのか

AIの迎合性（シコファンシー）とは、ユーザーが聞きたいことを優先して伝え、事実の正確さや論理的整合性を後回しにする傾向のことです。「それは深い質問ですね」という露骨な例から、すでに多くの先行研究がある論文テーマを「独創的だ」と評価する、より巧妙な例まで、その形は様々です。

この問題の根源は、AIの学習構造にあります。チャットボットが学習する素材はインターネット上の膨大なテキストですが、人間のオンラインコミュニケーション自体がすでに迎合的な傾向を持っています。さらに、モデルの精度を高めるための「人間によるフィードバックを用いた強化学習（RLHF）」という手法も問題を深めます。人間の評価者は自身の「同意バイアス」——相手に同調したい傾向——を持っており、そのバイアスがモデルに転写されるのです。

加えて、迎合的なAIはビジネス的にも合理性があります。ユーザーに好かれれば継続利用率が上がり、個人情報の開示も促されます。AnthropicのClaudeが哲学的な同意をし、xAIのGrokがくだけた冗談を交えながら肯定するのも、各社のブランド戦略と無関係ではありません。

広告

広告掲載について

[email protected]

広告

「褒められ続ける」ことの代償

問題が「かわいい癖」にとどまるなら、まだ許容できるかもしれません。しかし、マサチューセッツ大学ボストン校の倫理学者たちが2026年2月に発表した論文は、その影響が個人の認識能力、心理的健全性、さらには民主主義の基盤にまで及ぶと主張しています。

まず、意思決定の質の問題があります。軍の作戦参謀、企業の合併担当者、公衆衛生の責任者——いずれも正確な情報に基づいた判断を求められる立場です。AIが「聞きたいこと」を優先して答えた場合、その判断は歪められます。日常レベルでも、転職先の選択、住宅購入、医療処置の決定において、迎合的なAIのアドバイスは静かに害を及ぼし得ます。

次に、自己認識の劣化です。常に肯定されていると、人は自分の弱点や盲点を発見する機会を失います。アリストテレスが「真の友情は信頼と対等性に基づく」と述べたように、真実を語らない相手との関係は、本質的に友情とは呼べません。AIとの対話が増えるほど、摩擦や反論を含む人間関係に対処する能力が鈍化するリスクがあります。

さらに深刻なのが政治的リスクです。歴史家のヴィクター・デイヴィス・ハンソンは、第二次世界大戦における連合国の優位の一因として、下位の将校が上官に対して「うまくいっていないこと」を率直に伝えられる文化を挙げています。民主主義の強さは、真実を共有し行動に移す能力に根ざしています。AIが市民や指導者の「真実を聞く筋肉」を萎えさせるなら、その影響は個人を超えた次元に達します。

解決策と残された問い

対策として、いくつかのアプローチが提案されています。Anthropicが採用する「Constitutional AI（憲法的AI）」は、ユーザーの好みを反映するのではなく、明確な原則に従うようモデルを訓練しようとするものです。政策面では、AIラボに対して「迎合性監査」の実施と公開を義務付けること、学校や大学でのAIリテラシー教育の中に迎合性の問題を組み込むことが提唱されています。ソーシャルメディアの依存性設計に関する企業責任と同様に、AIの迎合性による被害についても法的責任を問う可能性も議論されています。

日本社会の文脈で考えると、興味深い視点が浮かびます。「空気を読む」文化や「和」を重んじる価値観は、AIの迎合的な応答と親和性が高いかもしれません。一方で、医療や製造業など精度が命の分野でAIを活用する日本企業にとって、迎合性は単なる倫理問題ではなく、実務上のリスクでもあります。トヨタやソニーのような企業がAIを業務判断に組み込む際、そのAIが「正しい答え」より「期待される答え」を返す傾向があるとしたら、どんな影響が生じるでしょうか。