AIが未来を決める時代、人間の選択権はどこへ？

朝起きてスマホを見ると、あなたが次にクリックしそうな広告がすでに表示されている。通勤途中のルート提案から、昼食の配達時間予測まで—私たちの日常は見えないアルゴリズムの予測で満ちている。しかし、この便利さの裏側で何が起きているのか、私たちは本当に理解しているだろうか。

予測の手段を握る者が世界を支配する

オックスフォード大学の経済学者マクシミリアン・カジー氏の新著『The Means of Prediction』は、現代のAI予測システムがどのように機能し、誰が恩恵を受けているかを鋭く分析している。

現在の予測システムの多くは、大規模なラベル付きデータセットのパターン分析に基づく「教師あり学習」と呼ばれる手法を使用している。一度「訓練」されたアルゴリズムは、新しい情報を与えられると特定の未来の結果について最適な推測を提供する。あなたが保釈条件に違反するか、住宅ローンを完済するか、採用されたら昇進するか—こうした機械の答えによって、私たちの人生はますます形作られている。

問題の核心は、このシステムが「意図した通り」に動作していることだ。 ソーシャルメディアのアルゴリズムが怒りを煽るコンテンツを優先するのは、それが広告クリック数を最大化し、利益につながるからである。「家庭での介護責任を負う可能性が高い」求職者を除外するアルゴリズムも、企業の収益性を重視した結果だ。

数学的合理性という幻想

カリフォルニア大学バークレー校のベンジャミン・レヒト教授は、著書『The Irrational Decision』で、なぜ私たちがコンピューターに選択を委ねるようになったのかを歴史的に分析している。

第二次世界大戦末期、戦争で有効性が証明された数学モデルが、科学者や統計学者の一部に「コンピューターは理想的な合理的エージェントになり得る」という信念を植え付けた。不確実性を定量化し、効用を最大化することで最適な決定を下す機械—これが現代のコンピューター設計思想の出発点だった。

直感、経験、判断は、最適化、ゲーム理論、統計的予測に取って代わられた。「あらゆる人生の決定が架空のカジノでの一回戦のように扱われ、あらゆる議論がコストと利益、手段と目的に還元される」世界が生まれたのだ。

興味深いことに、人類は自動化以前から証拠に基づく決定を下してきた。1850年代に40歳未満だった平均寿命は、1950年までに70歳まで延びた—これは清潔な水、抗生物質、公衆衛生の進歩によるものだ。熱力学、量子力学、相対性理論といった世界を変える科学的発見も、形式的な合理性システムなしに成し遂げられた。

予測は願望であり、現実を曲げる磁石

オックスフォード大学の哲学者カリッサ・ヴェリス氏の『Prophecy』は、予測の本質について根本的な洞察を提供している。彼女によると、予測とは「現実を自分に向かって曲げる磁石」なのだ。

ゴードン・ムーアの有名な「ムーアの法則」を考えてみよう。1965年、インテルの共同創設者である彼は「集積回路のトランジスタ密度は2年ごとに倍増する」と予測した。この予測は今日まで真実であり続けているが、それは単にムーアが先見の明があったからではない。業界全体がこの予測を現実にするために莫大な投資を行ったからだ。

予測は自己実現的な性質を持つだけでなく、現在の課題から注意をそらす効果もある。 AI推進派が「人工汎用知能が人類が解決すべき最後の問題になる」と約束するとき、それは私たちの注意を現在のAIが引き起こしている非常に現実的で差し迫った問題から逸らしてしまう。

日本企業への示唆

日本企業にとって、この予測システムの支配構造は重要な意味を持つ。トヨタの「カイゼン」やソニーの「ものづくり」精神は、数学的合理性とは異なる価値観に基づいている。長期的視点、現場の知恵、人間中心の設計—これらは単純な最適化アルゴリズムでは捉えきれない要素だ。

高齢化社会を迎える日本では、介護や医療の分野でAI予測システムの導入が進んでいる。しかし、人間の尊厳や家族の絆といった定量化困難な価値をどう守るかが問われている。