密西西比联邦法官发现双方律师均使用AI生成虚假判例，取消庭审并取消全部律师资格。
律师使用人工智能写法律文书已经不是新鲜事，但原告和被告双方的律师同时用AI生成虚假判例、让两个AI在法庭上"互相辩论"，即便在AI幻觉案例频发的今天也算是奇闻。美国密西西比北区联邦地区法院资深法官Sharion Aycock在一起合同纠纷案中发现了这一幕，随即下达制裁令。
这起案件涉及律师Tom Withers与密西西比州阿伯丁市之间关于未付律师费的合同纠纷。Withers本人并非自我代理，也未被制裁。但双方的代理律师"均从事了类似的应予制裁的行为"，法官在裁决中写道，法庭"再次被AI幻觉法庭文件所困扰"。
原被告双方提交的法律文书中引用了根本不存在的判例，这些判例完全是生成式AI凭空编造出来的。这一模式与科技媒体404 Media此前多次报道的AI幻觉案例如出一辙。法官暂停了所有诉讼程序，取消了原定庭审，并取消了全部四名涉案律师在本案中的代理资格。其中两名律师被禁止在该法院出庭两年。所有律师被处以1000至3500美元不等的罚款，具体金额取决于法官对各自在未能核实AI输出内容方面过错程度的评估。
最早揭发此案的律师Rob Freund称之为"一场AI错误的喜剧"，并推测这很可能是两个客户各自花钱让ChatGPT或其他大语言模型来互相对抗的局面。法官在制裁令中发出严厉警告，认为在一个未经核实的AI使用泛滥于法律行业的时代，本案就是"充当橡皮图章所带来的风险的典型案例"。近两年来，从纽约到科罗拉多，全美各地法官对律师在诉讼文件中使用AI的容忍度正在急剧下降。
值得注意的是，本案并非孤例。2023年以来，美国至少已有十几个联邦和州法院对类似AI幻觉案件作出制裁。业内普遍认为，生成式AI在法律文书撰写中的风险远高于其他行业，因为判例引用在法律论证中具有决定性权重。一个虚构的案例编号不会像一段虚构的新闻那样容易被识破，法官助理通常需要翻阅纸质报告才能确认引用是否存在。这起案件也为整个法律行业敲响了警钟，在AI能大幅提高效率的同时，核查义务不能外包给机器。法律界的反思似乎才刚刚开始，美国律师协会已在考虑制定关于生成式AI使用的专门伦理指引。而本案最荒诞的一点或许是，两个AI互相对抗所产生的法律费用，最终由两个人类客户埋了单。无论科技如何演进，律师对法庭和客户所负有的忠实与勤勉义务始终不可替代。这或许才是本案留给法律行业最重要的教训。
原文：https://www.404media.co/judge-learns-lawyers-on-both-sides-of-case-used-ai-cancels-trial-kicks-everyone-off-the-case/