AI偽造判例上法庭：法律AI的信任危機

一個承諾「提升35%勝訴率」的AI法律服務，卻在法庭上遞交了根本不存在的判例——這不只是一家公司的失信，而是整個法律AI產業的警示。

事件始末：從Facebook貼文到法庭攻防

芝加哥有個Facebook群組叫「Are We Dating the Same Guy」，女性用戶在此分享約會對象的資訊，互相警示危險男性。群組裡出現了一篇批評尼可·丹布羅西奧（Nikko D'Ambrosio）的貼文，當事人隨即採取法律行動，將逾20名女性告上法院，指控她們誹謗，並同時控告Meta刻意為了「娛樂價值」推播該貼文以牟利。

地方法院駁回了這起訴訟，裁定訴狀無從修正補救。但丹布羅西奧仍選擇上訴，背後倚靠的是MarcTrent.AI這家法律AI服務公司。該公司宣稱能「發掘傳統律師事務所錯失的法律機會」，並透過「預測模型將法律成功率提升35%」。

然而上訴過程中，法院發現提交的法律主張中疑似包含AI生成的虛假判例引用。目前法院正考慮對相關律師予以制裁（sanctions）。

這不是第一次，也不會是最後一次

法律AI生成虛假判例並非新鮮事。2023年，美國聯邦法院Mata v. Avianca案中，律師將ChatGPT捏造的判例提交法庭，遭聯邦法官公開斥責並處以罰款。此後類似案例在美國各州法院陸續出現。

AI的「幻覺」（hallucination）問題——模型以高度自信生成不存在的資訊——在法律場域的殺傷力遠超其他領域。一份錯誤的醫療建議可以被第二意見糾正，一篇錯誤的新聞報導可以被更正聲明補救，但一個虛假的判例引用一旦進入法庭紀錄，可能直接左右訴訟結果，影響真實當事人的人生。

廣告

廣告合作

[email protected]

廣告

值得關注的是，這起案件的背景本身就具有多重張力：被告女性所使用的群組，是一個女性互助的安全網絡；而訴訟的目的之一，正是要求刪除這篇貼文。批評者指出，法律程序在此被用作壓制女性發聲的工具，而AI法律服務則成為這一策略的技術支撐。

華人世界的法律AI現況

這起事件對華語地區的法律科技發展有直接的參照意義。

在台灣，司法院近年積極推動司法數位化，法律AI輔助工具逐步進入律師事務所與法院系統，但主要應用於文件整理、法規查詢與合約審閱，尚未出現如美國般的「AI代替律師出庭」模式。在香港，普通法體系下的判例制度使虛假判例引用的風險更為顯著——判例是法律論證的核心，一旦引用不存在的案例，後果遠比成文法體系嚴重。

中國大陸方面，最高人民法院已於2023年發布《關於規範和加強人工智能司法應用的意見》，明確AI輔助工具在司法程序中的使用邊界，並強調人工審核的必要性。這一監管框架雖然在透明度上仍有討論空間，但在「AI不能取代法官判斷」這一原則上，立場清晰。

相比之下，美國的法律AI市場幾乎處於監管真空。MarcTrent.AI這類公司可以在幾乎沒有資質審查的情況下，向訴訟當事人承諾「35%勝訴率提升」，而這個數字的統計基礎從未被公開驗證。

誰來為AI的錯誤負責？

這起案件的核心問題，最終指向一個尚無定論的法律與倫理命題：當AI生成的內容導致法律後果時，責任應由誰承擔？

是簽署訴狀的律師？是提供AI服務的公司？還是在明知AI存在幻覺風險的情況下，選擇相信「35%勝訴率」而不加驗證的委託人？

目前美國法院的傾向是追究律師責任，因為律師對提交法庭的文件負有個人職業責任。但這一框架是否足以遏制法律AI市場的誇大宣傳，仍是開放問題。