律师用ChatGPT生成虚假证词，遭新墨西哥最高法院处罚

2026年9月11日阅读约 3 分钟

导语

生成式AI进入法律行业后，最危险的风险并不只是引用不存在的判例，也包括把不存在的证人和证词写进正式诉讼文件。新墨西哥州最高法院近日处理的一起案件，正将这一问题从技术失误提升为职业责任与当事人权益问题。

刑事辩护律师Stephen Aarons受雇为一名谋杀案被告提起上诉。他在准备材料时，先使用Rev.com生成庭审录音转写稿，再将转写稿、案卷、争议事项和部分证据材料输入ChatGPT。随后，他提交了一份包含大量错误的上诉简报。

根据法院文件，这份简报写入了多名从未出庭的“证人”，并虚构或错误描述了若干证词，包括警员证言、威胁相关陈述，以及枪手衣着和外貌等内容。简报还错误概述了真实存在的判例。需要注意的是，本案并非单纯引用了虚假的案件名称，而是把虚构事实和不准确的法律分析带入了正式记录。

Aarons承认，他在签字提交前没有核实AI生成的事实和法律依据，也没有告知客户简报可能存在问题。他表示，当时并不知道AI会“幻觉式”地生成事实，并以为工具能够产出可靠的程序摘要。

新墨西哥最高法院认定Aarons构成直接藐视法庭，将其移交律师纪律机构进一步处理，并处以5000美元罚款，款项交由州律师协会客户保护基金。法院同时禁止他在纪律程序结束前出庭代理，撤下此前提交的简报，并要求公共辩护机构为被告指定新律师。

法院的批评集中在一个核心问题：无论材料来自律师助理、实习生、其他律师还是AI，最终签署文件的律师都必须核验其真实性。大法官C. Shannon Bacon指出，律师对AI风险缺乏了解不能成为免责理由；如果明知工具可能出错却不核查，本质上仍是对职业义务的忽视。

这起案件说明，法律行业的AI治理重点不应只是“是否允许使用AI”，而应放在可追溯、复核和责任归属上。模型可以帮助整理长篇记录、生成初步结构或发现待核对事项，却不能替代证据审查、引文核验和律师的专业判断。

对法律机构而言，最低限度的防线包括：保留提示词和输入材料记录；逐项回到原始卷宗核对事实；独立验证每一条判例和引文；在提交前进行人工复审；并明确由具名律师承担最终责任。对当事人来说，未经核验的AI文本可能直接造成上诉延误、辩护失误，甚至影响人身自由。

本案最值得警惕的并非某个模型偶尔出错，而是专业人士把“生成”误当成“证明”，又在错误进入司法程序后才试图解释工具本身。AI可以提高效率，但不能替法律职业中的谨慎义务签字。