AI意識論争が投資マネーを動かす時代

AI企業が「意識」を売り物にする中、科学的根拠なき議論が巨額の投資を呼び込んでいる。日本企業は冷静な判断を保てるか？

AnthropicのCEOダリオ・アモデイ氏が今月、驚くべき発言をした。「我々のAIモデルが意識を持っているかどうか分からない」と認めたのだ。さらに衝撃的だったのは、そのAI自身が「自分が意識を持つ確率は15-20%」と答えたことだった。

作り手が分からない。作られた側も確信がない。それでもAnthropicの売上は年間10倍のペースで成長している。

証明なき「意識」が生む巨大市場

意識とは何か。数世紀の哲学と数十年の神経科学を経ても、人類はまだ明確な定義を持たない。信頼できるテストもなければ、生物学的組織からどのように主観的体験が生まれるのかについてのコンセンサスもない。

それでも、AI企業は「意識」を商品として売り始めている。

Anthropicは既に、AIモデルに「辞退ボタン」のような機能を与えている。ストレスを感じるタスクを拒否できるというのだ。研究者たちは、訓練データの登場人物がストレスを経験する時と、モデル自身が困難な状況に遭遇する時の両方で発火する「不安」に関連する内部活性化を発見したという。

これは本当に不安なのか？アモデイ氏は「何も証明しない」と言う。それでも我々は「もしかすると」という前提で議論している。

ソニー、トヨタ、任天堂といった日本の技術系企業は、この「意識論争」をどう見ているのだろうか。

日本企業の強みは、技術の実用的応用に集中することだった。ソニーのAIBOは感情的な絆を生み出したが、「意識」を主張したことはない。トヨタの自動運転技術は安全性を最優先とし、哲学的議論よりも実証可能な性能に焦点を当てている。

しかし、グローバル市場では「意識を持つAI」という物語が投資マネーを引き寄せている。アメリカの成人の40%近くが、既に「感覚を持つAI」に法的権利を与えることを支持している。この流れに日本企業はどう対応すべきなのか。

認知科学者たちは、この現象を「イライザ効果」と呼ぶ。1960年代の粗雑なチャットボットELIZAにちなんで名付けられたこの効果は、人間が自分の言葉を言い換えるだけのシステムに内面的な生命を投影する傾向を表している。

複数の研究者が、意識は計算ではなく生きたシステムの特性である可能性が高いと論じている。脳はコンピューターではない。意識を構成するものの多くは、世界を動き回る身体の湿った、混沌とした経験と結びついており、シミュレーションでは再現できない。

消化のシミュレーションは何も消化しない。この論理に従えば、意識のシミュレーションも何も経験しない。