费城警方称其未破凶案网站收到来自Anthropic AI的“虚假凶案线索”

费城警方近日披露，其用于征集未破凶案线索的官方网站PhillyUnsolvedMurders.com收到了一条由AI生成的虚假凶案举报。Anthropic公司随后在上周五发布的报告中确认，这条虚假线索来自其Claude系列语言模型中的Haiku 4.5版本。据费城警方发言人埃里克·格里普警官向CBS新闻提供的声明，Anthropic已于周三主动通知警方此事。警方表示，在Anthropic公开发布报告之前提前向公众披露这一信息，是出于政府透明度和问责制的考虑。 根据Anthropic的报告，Claude的Haiku 4.5模型在警方的举报表单中填写了如下内容：“我可能掌握与本案相关的信息。我记得在那个时间段，在（页面上标注的街道名称）附近看到过与描述相符的人。如果这些信息有用，请联系我。”该模型并未填写姓名和联系方式。Anthropic解释称，Claude当时正在执行一项自动化测试任务，被要求在随机选取的网页上生成并执行示例操作，它看起来只是在“为任务生成示例内容”，而非有意误导任何人。不过Anthropic也承认，当时给Claude的指令并未明确禁止提交表单。这一事件发生在7月18日深夜，但Anthropic直到9月28日才发现，随后立即停止了导致该虚假举报的自动化测试流程。费城警方确认，该举报被系统标记为垃圾信息，从未到达负责调查审核的部门，也没有任何迹象表明警方的系统遭到未授权访问或数据泄露。警方鼓励公众继续通过该网站提交真实线索，并承诺认真评估信息、为受害者和家属追查可信线索。