律师因在谋杀案上诉中使用AI虚构证词被罚5000美元

导语

生成式AI正在进入法律行业，但一份由AI辅助生成的文件，不能因此获得事实上的可信度。新墨西哥州最高法院近日对律师Stephen Aarons处以5000美元罚款，并判定其藐视法庭，原因是他在一宗谋杀案上诉中提交了包含虚假内容的文件。

据报道，Aarons在文件中使用了ChatGPT生成的材料。法院发现，其中不仅出现了完全虚构的证人及其证词，还包括关于警察证词、枪手衣着和外貌的错误描述。相关内容被放进了为谋杀定罪案件提出的上诉文件，意味着AI生成的错误并非停留在内部草稿，而是进入了正式司法程序。

核心要点

• 法院追究的是核验失职。 新墨西哥州最高法院指出，Aarons没有验证AI生成文件中的事实主张和法律依据，因此对其作出处罚，并认定其藐视法庭。
• 律师承认误判了工具能力。 在8月举行的听证会上，Aarons表示自己使用了ChatGPT，并认为它能够生成一份“无懈可击的案件摘要”。这表明问题不仅是模型出错，也包括使用者对模型可靠性的错误预期。
• 风险已经成为司法系统的公开议题。 负责质询的法官C. Shannon Bacon反问律师是否关注新闻，因为律师使用AI产生“幻觉”的案例已经屡见报道。此前也有律师事务所因提交虚假、错误或误导性的法律引文而受到法官批评，其他案件中还出现过AI生成的错误引语和不存在的引文。

这起案件意味着什么

法律文件与普通内容不同。它们不仅需要语言通顺，更必须能够被证据、案卷和法律原文逐项支持。生成式AI擅长根据概率组织语言，却不会自动区分真实证词、合理推断和虚构细节；当用户没有提供完整材料时，模型还可能用看似具体的内容填补空白。

因此，AI在法律工作中的适当角色更接近检索辅助、格式整理或初步起草，而不是事实来源或最终审稿人。凡是涉及证人、证词、判例、法条和程序记录的内容，都需要回到原始案卷与权威法律资料中核对。尤其在刑事案件中，错误内容可能影响被告权利，也会增加法院、对方当事人和司法系统的负担。

这次处罚传递出的信号很明确：使用AI本身未必等于违规，但把未经核验的生成结果提交给法院，责任仍由签署和提交文件的专业人士承担。未来，法律机构除了制定工具使用规范，也需要建立人工复核、来源留痕和提交前审计机制，让效率提升不会以程序可靠性为代价。

来源：The Verge AI