美国律师在谋杀案中引用虚假证人，归咎于ChatGPT

美国新墨西哥州最高法院本周三对一名辩护律师开出5000美元罚单，并裁定其藐视法庭，原因是他在为一起谋杀案上诉时提交的法庭文件中，引用了由ChatGPT凭空捏造的警方证词和根本不存在的证人。这名律师名叫斯蒂芬·阿伦斯（Stephen Aarons），来自圣菲市，他承认自己在准备上诉材料时借助了ChatGPT来总结庭审记录，但并未核实内容的真实性。 事情的经过是这样的：阿伦斯去年接手了奥斯卡·雷内·桑多瓦尔（Oscar Renee Sandoval）的上诉案。桑多瓦尔被控杀害自己孩子的母亲，他不认罪，但最终被定罪并于去年被判处终身监禁。阿伦斯在8月21日的听证会上向法庭解释，他把一份电脑生成的庭审记录和其他案件材料输入ChatGPT，以为它会生成一份“无懈可击的摘要”。结果这份摘要里出现了完全虚构的内容，包括“枪手穿着深色裤子和白色衬衫”这类从未在庭审中出现的描述，以及根本不存在的证人证词。最高法院上月要求阿伦斯解释这些捏造材料是如何进入上诉主文书的。法官们在听证会上对阿伦斯的辩解显得难以置信，大法官C·香农·培根（C. Shannon Bacon）当场质问：“律师，你看新闻吗？听广播吗？你读不读世界上正在发生的事？因为律师依赖AI幻觉这个问题，每天都在头条新闻上。” 这起案件并非孤例。近年来，美国州和联邦法官已经越来越多地对提交AI生成、未经核实法庭文件的律师进行纪律处分。此前已有数十名律师因AI编造判例引用或错误引述法律而被制裁，但阿伦斯案的特殊之处在于，伪造内容直接涉及刑事案件中的证人证词，性质更为严重。新墨西哥州最高法院除了罚款外，还将阿伦斯移交律师纪律委员会接受进一步调查。法院在裁决中指出，阿伦斯“表现出缺乏悔意，也缺乏对客户的关心”。阿伦斯本人对路透社表示，他确实感到懊悔，但希望纪律委员会能考虑到这是一个“诚实的错误”，并称“这对所有依赖这项强大但有时不稳定的技术的专业人士来说，都是一个教训”。目前桑多瓦尔的上诉案已改由新墨西哥州公设辩护人金·查韦斯·库克（Kim Chavez Cook）接手，案件仍在审理中。OpenAI方面尚未对此事作出回应。对于中国跨境电商卖家和AI工具用户而言，这起案件是一个明确的警示：AI生成的内容在法律、合规、知识产权等高风险场景中必须经过人工核实，不能直接采信。无论是撰写产品描述、处理客户纠纷，还是准备平台申诉材料，一旦涉及事实性陈述，AI的“幻觉”都可能带来真实的代价。