Anthropic Claude 憲法 更新：57ページの「魂の文書」が明かすAIの倫理観

57ページに及ぶ「魂の文書」が、AIの倫理を再定義します。AIスタートアップのAnthropicは、自社のAIモデル「Claude」の行動指針となる「憲法」を大規模に刷新しました。これは外部向けの広報資料ではなく、AI自身が自らの価値観と行動を律するための内部ガイドラインです。

Anthropic Claude 憲法 更新の背景と目的

The Vergeの報道によると、今回の更新は単なるルールの追加に留まりません。2023年5月に発表された旧憲法はガイドラインの羅列に近いものでしたが、今回の新憲法はClaudeの「倫理的性格」と「核となるアイデンティティ」を詳細に規定しています。特に、複数の価値観が対立する場面や、判断の難しい高リスクな状況において、どのようにバランスを取るべきかが記述されています。

広告

広告掲載について

[email protected]

広告

ルールから「価値観の理解」へのシフト

Anthropicは、AIモデルに対して「単に特定の行動を指示するだけでなく、なぜ人間がそのような振る舞いを望むのかという理由を理解させることが重要だ」と述べています。これにより、未知の状況に直面した際でも、AIが開発者の意図に沿った自律的な判断を下せるようになることが期待されています。