AIの言葉に責任はない：「語る機械」が変える人間の尊厳

ChatGPTなどのAIが流暢に話すが、その言葉に責任を負わない時代。人間の言語と尊厳はどう変わるのか？日本社会への影響を考える。

人類史上初めて、言葉が結果から切り離された時代が到来した。私たちは今、知識豊富で説得力のある会話を繰り広げるAIシステムと共に生きている。これらのシステムは世界について主張し、説明し、助言し、励まし、謝罪し、約束する。しかし、その言葉に対して何の責任も負わない。

空虚な謝罪が示すもの

日常的な体験を思い出してほしい。チャットボットが間違った答えを出す。訂正すると、謝罪して答えを変える。再び訂正すると、また謝罪する。時には完全に立場を変えることもある。

ユーザーを不安にさせるのは、システムに信念がないことだけではない。まるで信念があるかのように謝り続けることだ。言葉は責任感があるように聞こえるが、実際は空虚なのだ。

この現象は、私たちが互いの言葉に責任を持たせる条件を明らかにする。意図的で個人的、拘束力があるように聞こえる言語が、何の結果も負わない話し手によって大規模に生産されるとき、聞き手が話し手に抱く期待は侵食され始める。

日本文化では伝統的に「言霊」という概念があり、言葉には魂が宿ると考えられてきた。また「一言一句」を大切にし、発言に責任を持つ文化が根付いている。しかし、AIとの日常的な対話が増える中で、この価値観はどう変化するだろうか？

ソニーやNTTドコモなどの日本企業も、AIアシスタントサービスを展開している。これらのサービスは便利だが、ユーザーは徐々に「責任のない言葉」に慣れていく。日本の高齢化社会では、AIが介護や相談相手の役割を担うことも増えているが、そこで交わされる「共感」や「励まし」は本物なのだろうか？

言語学習の専門家である筆者は、長年にわたってロボットが言葉の意味を学ぶ仕組みを研究してきた。しかし、自身の息子が成長する過程で、言語の道徳的次元を見落としていたことに気づいた。

言葉の意味は、流暢さや身体性だけから生まれるのではない。話し手が傷つきやすく、依存的で、説明責任を負う存在だからこそ、言葉は拘束力を持つ。話し手が傷つけられ、責任を問われうる存在だからこそ、言葉は意味を持つのだ。

哲学者J.L.オースティンは、言語を使うことは行為することだと論じた。結婚式で「誓います」と言うことは、結婚という行為を成立させる。しかし、AIの場合、手続き的には成功するが、道徳的には空虚な言語行為が生み出される。

日本の教育現場では、既にAIを活用した学習支援が広がっている。学生がAIに課題を書かせ、教師がAIで生成したフィードバックを送る。効率的だが、そこに人間の尊厳はあるだろうか？

トヨタのような製造業では、AIによる品質管理や意思決定支援が進んでいる。しかし、AIが下した判断に対して、誰が最終的な責任を負うのか？日本企業の「終身雇用」や「集団責任」の文化は、この新しい現実にどう適応するのだろうか？

第二次世界大戦後、数学者ノーバート・ウィーナーは、自律的な機械の道徳的結果について深く憂慮していた。彼は二つの警告を発した。第一に、機械の能力向上が人間の責任を置き換えること。第二に、効率性そのものが人間の尊厳を侵食することだった。

ウィーナーは1950年の著書で、学習機械の内部価値が創造者にも不透明になることを予見していた。これは今日の「AI整合性問題」そのものだ。彼は、そのようなシステムに責任を委ねることは「風に投げ捨てて、つむじ風に乗って戻ってくるのを見つけることだ」と書いた。

日本社会は、効率性と人間性のバランスを重視してきた。しかし、AIが人間の言語能力を上回る時代に、私たちはどのような選択をするべきなのか？

技術を放棄することはできないし、すべきでもない。必要なのは、責任を再び固定する構造だ。学校や職場での AI使用を制限し、著作権、追跡可能性、明確な責任を保護する制約が必要だ。効率性は、尊厳を腐食する場合には制約されなければならない。