AIに「選ばされている」私たちは、気づいているか

ルンド大学の実験室で、参加者たちは自分が選んだと信じていた顔写真を、実は選んでいなかった。それでも彼らは、その「選択」の理由を滔々と語り続けた。

これは認知科学の小さなパズルではない。アルゴリズムが私たちの情報環境を絶えず再構成しているこの時代に、私たちは毎日、同じことをしているかもしれない。

「自律」という概念の来歴

哲学者カントが近代的な自律概念を確立したのは18世紀のことだ。彼は自律を人間の尊厳の礎として位置づけ、「完全に理性的な主体」としての人間の意志を自然そのものの上に置いた。以来、自律とは「外部の影響から切り離された、完全に自発的な内的能力」として西洋思想の中心に居座り続けてきた。

しかし哲学者コルネリウス・カストリアディスは晩年のインタビューで、こう語っている。「外部の影響を一切受けず、完全に自発的であることが自律だとするなら、それはただの哲学的幻想に過ぎない。自律とは、進行中のプロセスなのだ。」

この「幻想」が、AI時代に入って初めて、実害を持ち始めた。

神経科学者ベンジャミン・リベットは1980年代の実験で、脳が指を動かす準備を始めるのは、本人が「動こう」と意図したと報告するより数百ミリ秒も早いことを示した。私たちが「自分で決めた」と感じる瞬間は、すでに脳が動き出した後かもしれない。心理学者エドワード・デシとリチャード・ライアンの自己決定理論は、人間の幸福には「自分が行動の主体である」という感覚が不可欠だと説く。だが、その感覚そのものが、巧みに設計された環境によって生み出されているとしたら？

生物学が教える「自律」の本当の姿

生物学者フランシスコ・ヴァレラは、1980年代にすでに別の道を示していた。彼がウンベルト・マトゥラーナとともに発展させた「オートポイエーシス」の概念は、生命体の自律を「内側から完全に生まれるもの」ではなく、「環境との絶えざる相互作用の中で生成されるプロセス」として捉える。

細胞は外部から切り離されているのではなく、環境との境界を自ら維持しながら、その組織を保ち続ける。ヴァレラはこう書いた。「自律とは、背景から自分を区別する感覚と、認知的行動を通じてその背景に対処する能力が存在するところに生まれる。」

1991年の著書『身体化された心』でヴァレラ、エヴァン・トンプソン、エレノア・ロッシュは、認知とは「身体化された行為」であり、脳だけでなく身体全体と環境との動的な結合から生まれると論じた。スペインの詩人アントニオ・マチャードの詩句がその章題に選ばれている。「歩くことで、道は作られる（se hace camino al andar）。」

広告

広告掲載について

[email protected]

広告

自律とは、あらかじめ存在する内的能力ではなく、環境との相互作用の中で絶えず生成されるプロセスなのだ。この視点は、AI技術が日常に深く組み込まれた現在において、単なる哲学的命題ではなくなっている。

アルゴリズムは「説得」しない。「設計」する。

レコメンデーションフィードが静かに並び替わるとき、そこには意図を持った「著者」はいない。政治演説や広告は、少なくとも識別可能な発信者と意図を持ち、原則として反論できる。しかしAI駆動のシステムは、主体に向けてメッセージを提示するのではなく、主体が行動し、知覚し、選好を形成する環境そのものを継続的に再構成する。

法学者カレン・ヨンが「ハイパーナッジ」と呼ぶこの仕組みは、リアルタイムのデータと予測プロファイリングを使い、選択が展開される環境そのものを動的に形成する。ノーベル賞経済学者ダニエル・カーネマンが示したように、人間の思考には高速・自動的な「システム1」と低速・熟慮的な「システム2」がある。デジタル環境の多くは、意図的かどうかにかかわらず、システム1が支配する状態を作り出す設計になっている。

これはアルゴリズムによるガバナンスだ。意思決定に影響を与えるのではなく、意思そのものが形成される条件を事前に整形する権力の行使である。

日本社会においてこの問題は、独自の文脈を持つ。高齢化が急速に進む日本では、65歳以上の人口が約30%に達しており、デジタルリテラシーの格差が大きい。研究によれば、高齢者はレコメンダーシステムに対して、過去のマスメディアや初期インターネットの経験に基づいた誤った期待を形成しやすく、AIがキュレートした情報に対する批判的距離が縮まりやすい。

また、ソニーやトヨタ、任天堂などの日本企業がAIを製品・サービスに統合していく中で、「ユーザーの自律性をどこまで守るか」という設計倫理の問いは、もはや抽象論ではない。

「ハビアス・コギタティオネム」——思考の自由を守る法的枠組みへ

人身保護令状（habeas corpus）が身体の自由を守ったように、今、思考の自由を守る新たな概念が必要だという議論が生まれている。ラテン語で「habeas cogitationem（あなたは思考を持つ）」と呼ばれるこの発想は、認知的自律を基本的人権として位置づけようとするものだ。

国際社会の動きは緩やかだが確実だ。UNESCOは精神的完全性を人権として保護するよう加盟国に促し、OECDは2019年に神経技術の責任ある革新に関する勧告を採択した。2024年にはEUのAI法が、潜在意識への操作や欺瞞的な操作を明示的に禁止した。そして2021年、チリは神経データを身体の臓器と同等に保護する規定を憲法に盛り込み、世界的な先例を作った。

しかし批評家たちは、こうした議論が神経技術インプラントのような「身体に直接埋め込まれた技術」に焦点を当てすぎており、すでに日常に浸透しているAIシステムの問題を見落としていると指摘する。

哲学者ジュディス・バトラーが長年論じてきたように、私たちは脆弱な身体として世界に投げ込まれた存在であり、いかなる規範的枠組みも、その脆弱性を単純に消去することはできない。自律を守るということは、まず「私たちは脆弱である」という事実から出発することを意味する。

子どもたちの認知能力はまだ発達途上にあり、身体的探索と社会的相互作用を通じて形成される。神経多様性を持つ人々は、神経典型的な規範に基づいて訓練されたAIシステムによって、独自の認知パターンが上書きされるリスクにさらされている。高齢者は、AIがキュレートした情報への批判的距離を失いやすい。そして若い成人も例外ではない。前頭前皮質の成熟は従来20歳頃とされてきたが、最近の研究では30代以降まで続く可能性が示唆されており、AI主導の環境が熟慮能力の発達そのものに影響を与えるリスクがある。