AIが作った嘘の判例で裁判？法律AIの危険な実態

AIが「勝訴率を35%上げる」と宣伝する法律事務所が、存在しない判例を裁判所に提出したとしたら——それは弁護士の失策ではなく、AIそのものへの信頼の問題です。

何が起きたのか：Facebookの投稿一件が法廷へ

シカゴに「Are We Dating the Same Guy」というFacebookグループがあります。女性たちが交際相手の情報を共有し、危険な男性について警告し合うためのコミュニティです。このグループに、ある男性に関する批判的な投稿が掲載されました。

投稿された側のニッコ・ダンブロジオ氏は、20人以上の女性を名誉毀損で訴え、さらにMeta社がその投稿を「エンターテインメント価値」のために意図的に拡散して利益を得たと主張しました。しかし地方裁判所はこの訴えを「修正の余地なし」として棄却。それでも同氏は控訴に踏み切りました。

その控訴を支えたのが、MarcTrent.AIという法律AIサービスです。同社は「従来の法律事務所が見逃す法的機会をAIで発掘する」「予測モデルによって法的成功率を35%向上させる」と謳っています。しかし控訴審で提出された法的主張の中に、AIが生成したと疑われる架空の判例引用が含まれていることが発覚。裁判所は担当弁護士への制裁（サンクション）を検討する事態となっています。

なぜ今、この問題が重要なのか

これは孤立した事件ではありません。2023年以降、米国の複数の連邦裁判所でAI生成の架空判例引用が問題となるケースが相次いでいます。最も有名なのは同年のMata v. Avianca事件で、ChatGPTが生成した存在しない判例を弁護士が提出し、連邦裁判所から制裁を受けました。

広告

広告掲載について

[email protected]

広告

AIの「ハルシネーション（幻覚）」——実在しない情報を自信を持って生成する現象——は、チャットボットが誤った観光情報を提供するレベルの問題ではありません。法廷という場では、架空の判例一件が訴訟の行方を左右し、当事者の人生に直接影響します。

さらに今回の事件には、もう一つの層があります。このFacebookグループは、女性が危険な交際相手について情報共有するための安全網として機能しています。訴訟はその投稿の削除を目的としており、法的手続きが「ドクシング（個人情報の暴露）への対抗手段を封じる道具」として使われているという批判もあります。AIを使った法的主張がその手段として動員されたという構図は、技術の中立性という幻想を問い直します。

「成功率35%向上」という約束の重さ

MarcTrent.AIのような法律AIサービスが増えている背景には、弁護士費用の高騰と法律サービスへのアクセス格差という現実があります。米国では弁護士費用が高く、一般市民が法的支援を受けにくい状況が続いています。AIによる法律サービスの民主化は、理念としては正当です。

しかし「成功率35%向上」という数字は何を根拠にしているのか。予測モデルの精度はどう検証されているのか。そして最も根本的な問いとして——AIが生成した法的主張の正確性を、最終的に誰が責任を持って確認するのか。

日本においても、法務省が法律AIツールの活用に関する検討を進めており、LegalForceやAI-CONなどのリーガルテックサービスが普及しています。ただし日本のサービスの多くは契約書レビューや法令検索に特化しており、裁判所への提出書類を自動生成するような用途には慎重な姿勢を保っています。それは技術的な限界への認識でもあり、法的責任の所在を明確にする文化的な慎重さでもあるかもしれません。

弁護士という職業は、依頼人の利益を守ると同時に、裁判所に対して誠実である義務（candor to the tribunal）を負います。AIがその義務の履行を妨げるツールになるとき、問われるのは技術の精度だけではなく、それを使う人間の判断力と倫理観です。