AI 로펌이 만들어낸 가짜 판례, 법정에 서다

AI를 활용한다는 로펌이 실제로는 가짜 판례를 인용해 소송을 제기했다. 미국 법원이 제재를 검토 중인 이 사건은 'AI 법률 서비스'의 민낯을 드러낸다.

소송을 제기하기 전에, 판례부터 확인하는 건 법학 1학년 수준의 기본이다. 그런데 그 판례가 처음부터 존재하지 않았다면?

데이트 폭로 그룹, 그리고 소송의 시작

미국 시카고에는 "Are We Dating the Same Guy" 라는 페이스북 그룹이 있다. 여성들이 데이트 상대방에 대한 경험을 공유하며 서로를 보호하는 공간이다. 닉코 담브로시오(Nikko D'Ambrosio) 라는 남성은 이 그룹에 자신에 관한 글이 올라오자, 글을 작성한 여성 20여 명과 메타(Meta)를 상대로 명예훼손 소송을 제기했다. 메타가 해당 게시물의 "오락적 가치"를 이용해 수익을 올렸다는 주장도 함께였다.

지방법원은 이 소송을 기각했다. 단순 기각이 아니라 '각하(dismissal with prejudice)', 즉 어떤 방식으로 수정해도 소송을 살릴 수 없다는 판단이었다. 통상적이라면 여기서 끝났을 사건이다.

그런데 담브로시오 측은 항소했다.

"AI로 성공률 35% 향상" — 그 실체

항소를 맡은 곳은 MarcTrent.AI 라는 로펌이다. 이 회사는 홈페이지에서 "AI를 통해 전통적인 로펌이 놓치는 법적 기회를 발굴"하고, "예측 모델링으로 법적 성공률을 35% 높인다"고 홍보한다. AI를 마케팅 전면에 내세운 신생 법률 서비스다.

광고주 모집

[email protected]

문제는 이 로펌이 제출한 준비서면에서 드러났다. 법원과 상대방 측이 검토한 결과, 인용된 판례 일부가 실제로 존재하지 않는 것으로 확인됐다. AI가 생성한 '가짜 판례', 즉 할루시네이션(hallucination) 이 법정 문서에 그대로 실린 것이다. 현재 법원은 해당 변호사들에 대한 제재(sanctions)를 검토 중이다.

처음이 아니다

이 사건이 유독 당혹스러운 이유는, 이미 선례가 있기 때문이다. 2023년, 뉴욕의 변호사 스티븐 슈워츠는 ChatGPT가 만들어낸 가짜 판례를 법원에 제출했다가 5,000달러 제재금을 물었다. 그 사건은 전 세계 법조계에 큰 경고음을 울렸고, 이후 여러 법원이 AI 생성 문서 사용에 관한 가이드라인을 마련했다.

그로부터 3년이 지났다. 이번엔 AI를 핵심 경쟁력으로 내세운 로펌이 같은 실수를 반복했다. 단순한 부주의를 넘어, AI 도구에 대한 과도한 신뢰 혹은 검증 과정의 의도적 생략이 있었던 건 아닌지 의문이 제기된다.

누가 피해를 보는가

이 사건에는 여러 층위의 이해관계자가 얽혀 있다.

소송 대상이 된 여성들의 입장에서 보면, 이 그룹은 데이트 앱 문화에서 자신을 보호하기 위한 비공식 안전망이다. 근거 없는 소송 하나가 이런 커뮤니티 전체를 위축시킬 수 있다. 실제로 이번 소송에서 담브로시오 측은 여성들의 신원 공개(doxing)를 지원하는 논리를 구성하려 했다는 정황도 있다.

AI 법률 서비스 업계 전반에도 타격이다. 법률 AI 스타트업들은 접근성과 비용 절감을 무기로 성장해왔다. 그러나 이런 사건이 반복될수록 "AI 로펌"이라는 레이블 자체가 불신의 대상이 될 수 있다.

전통 로펌들은 이 상황을 복잡한 시선으로 바라본다. AI 도입 압력을 받으면서도, 동시에 AI의 실패 사례가 자신들의 존재 이유를 재확인해주는 아이러니한 위치에 있다.