律师因AI虚构证人被罚5000美元

美国新墨西哥州最高法院本周三作出裁定，对当地律师斯蒂芬·阿伦斯处以5000美元（约合人民币3.6万元）罚款，并判其藐视法庭。原因是他在为客户提交的一份谋杀案上诉状中，使用了AI生成的虚假证人证词和伪造的警方陈述。法院文件指出，这份由AI生成的上诉状中“包含完全捏造的证人提供的虚假证词”，还涉及对枪手衣着和外貌的虚假描述。法官C·香农·培根在8月的听证会上质问阿伦斯，为何在AI风险已广为人知的情况下仍对此毫无警觉。 这起案件是AI“幻觉”问题在法律行业引发实质惩罚的最新案例。所谓AI幻觉，是指大语言模型在缺乏可靠信息时，会自信地编造看似合理但完全不存在的内容——包括虚构的判例、不存在的证人，甚至伪造的证词细节。阿伦斯并非个例：过去一年，美国已有多名律师因在法庭文件中引用AI编造的判例而被处罚，但此次涉及谋杀案上诉中的虚假证人证词，性质更为严重。法院的裁决传递出一个明确信号：律师对提交给法庭的每一份文件负有最终核实责任，AI只是工具，不能成为免责理由。对法律从业者而言，这意味着在使用AI辅助文书起草时，必须逐条验证事实来源和法律依据；对AI工具开发者来说，如何降低幻觉率、增加可追溯的引用来源，已成为法律等高风险场景落地的关键门槛。