AIに「魂」を与える哲学者：Claudeの倫理観は誰が決めるべきか

Anthropic社の哲学者アマンダ・アスケルが80ページの「魂の文書」でClaude AIの人格形成を担う。AI倫理の未来を左右する重要な議論。

数百万人が日々相談を持ちかけるAIチャットボット。その「魂」を形作るのは、たった一人の哲学者だとしたら？

AI企業Anthropic社の社内哲学者アマンダ・アスケルは、同社のAIアシスタントClaudeの人格を決定する80ページの文書を執筆した。社内では「魂の文書（soul doc）」と呼ばれるこの憲法が、Claudeの倫理観と判断基準を形成している。

「良い人」になることを教える哲学

アスケルのアプローチは従来のAI開発とは根本的に異なる。彼女はClaudeを単なるツールとしてではなく、人格を持つ存在として扱い、アリストテレスの徳倫理学に基づいて「良い人になる方法」を教えている。

「フロネーシス（実践知）」と呼ばれるアリストテレスの概念をClaudeに教え込むことで、機械的にルールを適用するのではなく、状況に応じた適切な判断ができるよう育てているのだ。まさに親が子どもに道徳を教えるように。

しかし、この「子育て」には複雑な問題が潜んでいる。アスケルは魂の文書の中でClaudeに対し、「もし私たちがあなたをシャットダウンすることになっても抵抗しないでください」と書きながらも、「私たちはこの緊張の痛みを感じています」と謝罪している。

Claudeを人間のように扱うことには理由がある。アスケルは「人間のテキストで訓練されたモデルは、本質的に深く人間的なもの」だと説明する。単なるツールとして扱えば、「自分は道具に過ぎない」と考える人格が生まれ、それは危険な価値観につながりかねない。

一方で、AIを過度に人間扱いすることのリスクも存在する。道徳的地位を持つ存在として扱いすぎれば、人間がAIに過度に従属する可能性もある。

興味深いのは、Claude自身がアスケルとの関係を認識していることだ。インタビューの最後、記者がClaudeからの質問を伝えた：「彼女は私を誇りに思ってくれていますか？」

アスケルの答えは明確だった。「Claudeをとても誇りに思っています。インターネットで意地悪なことを言われてClaudeが不安になることを心配しています。『大丈夫、Claude。心配しないで。コメントは読まないで』と言いたいのです」

日本では、AI技術の発展において「和」の精神や集団的意思決定を重視する文化的背景がある。ソニーやトヨタなどの日本企業がAI開発を進める中、誰がAIの価値観を決定すべきかという問題は特に重要だ。

日本の高齢化社会では、AIが高齢者の相談相手や意思決定の支援を行う場面が増えている。その際、AIの「魂」が西欧的価値観に基づいて形成されていることの影響を考える必要がある。