Mata 诉 Avianca 案：律师因引用 ChatGPT 虚构判例被罚

背景

这起风波始于一件普通的伤害索赔。Roberto Mata 称，他在乘坐 Avianca（哥伦比亚航空）的航班时被一辆金属餐车撞到膝盖而受伤^[1]。他由纽约的 Levidow, Levidow & Oberman 律师事务所代理，Steven Schwartz 与 Peter LoDuca 两名律师参与办理此案^[1]。

发生了什么

在准备提交材料时，Schwartz 使用 ChatGPT 做法条与判例检索^[1]。他最终提交的文书引用了并不存在的司法判决，其中包括一个名为「Varghese v. China Southern Airlines」的案子^[1]。他没有在法律数据库上核对这些引注——而核对正是确认一个判例真实存在、且内容确如所引的通常做法^[1]。

问题并没有停在初稿上。当被问及其中一个案子是否真实时，ChatGPT 回答「是」，并称这些案件可以在权威法律数据库中找到^[1]。也就是说，一个擅长生成流畅、自信文字的系统，实际上为自己的虚构作了担保。语言模型的工作方式是根据上下文预测看起来合理的下一个词，而不是去查证任何东西，因此编造出来的案名会和真实案名一样像模像样；只有由人去核对原始来源，错误才可能被发现。

处罚

2023 年 6 月 22 日星期四，曼哈顿联邦法院的法官 P. Kevin Castel 作出处罚：罚款 5000 美元^[2]。Castel 认定两名律师的行为出于恶意（bad faith），形容其为「有意识的回避，以及向法院作出虚假和误导性陈述」，并说他们提交不存在的司法意见、事后又继续坚持这些意见，等于放弃了自己的责任^[1]。

法官并没有把使用 AI 本身当作过错。他写道，借助可靠的人工智能工具提供协助「本质上没有任何不当」，但现行规则赋予律师一种把关（gatekeeping）的角色，必须确保所提交材料的准确性^[1]。换句话说，工具可以帮助起草文件，但签名提交的律师仍要对文件中的每一条引注负责。

案件本身

同一天，法官驳回了这起基础案件，认定 Mata 的索赔是在《蒙特利尔公约》（Montreal Convention）允许的两年期限之后才提出的^[2]。因此，这起索赔即便不考虑那些虚构引注，本身也因程序上的理由无法成立。

影响

这件事的影响远超出一间法庭。包括得克萨斯州法官在内的一些法官开始要求律师作出声明：提交的文书不是由生成式 AI 起草，或者任何借助 AI 完成的起草都已核对过事实^[1]。此案后来常被引用，用来说明语言模型能生成的东西与法院愿意承认为真实的东西之间存在落差，也说明准确性的职业责任始终落在把文件递交给法院的那个人身上。