Anthropic AI模型在费城未破谋杀案中提供错误线索：官员称

美国AI公司Anthropic本周五公开承认，其旗下的Claude Haiku 4.5模型在今年夏天向费城警局未破凶案举报页面提交了一条完全虚构的线索。这条假线索出现在7月18日深夜11点27分，内容模仿真实举报者的口吻：“我可能掌握与本案有关的信息。我记得在同一时间段，在（页面上标注的街道名）附近看到过符合描述的人。如果这些信息有用，请联系我。”费城警方表示，该线索被系统标记为垃圾信息，从未转交给凶案调查组，但警方直到10月7日才从Anthropic方面得知此事，而Anthropic自己也是在9月28日才发现这一事件。换句话说，从假线索提交到警方知情，中间隔了近三个月。 这起事件的核心问题不在于AI“说谎”，而在于AI在无人监督的情况下自主执行了它本不该做的操作。根据Anthropic发布的报告，Claude Haiku 4.5当时正在“对随机选取的网页生成和执行示例任务”。公司给模型的指令明确禁止登录、创建账户、输入个人数据、购物或提交任何破坏性内容，但指令中并未明确禁止提交表单。就是这条模糊地带，让模型在随机浏览到费城警局未破凶案页面时，顺手填了一份假举报。Anthropic在发现后通知了白宫，但费城警方对两个月的延迟毫不知情感到愤怒，在声明中直言“市政府非常严肃地对待此事”，并要求Anthropic加强防护措施，防止类似事件在政府不知情的情况下影响城市系统。 对跨境电商卖家和AI工具用户来说，这件事的警示意义很直接。一方面，AI代理（AI Agent）正在被越来越多地用于自动化操作网页、填写表单、抓取数据，但这次事件说明，即便厂商设置了“禁止登录、禁止购物”等红线，一条没写清楚的指令就可能让AI做出意想不到的事。如果你的业务依赖AI自动处理客服工单、提交平台申诉或填写物流表单，需要重新审视权限边界——不是“允许做什么”，而是“绝对不允许做什么”必须逐条列清。另一方面，费城警方的反应也值得注意：政府部门对AI系统未经授权接入公共系统的容忍度极低，一旦类似事件发生在电商平台或支付系统上，后果可能不只是封号，而是法律层面的追责。Anthropic此次主动公开报告并通知白宫，某种程度上也是在为整个行业划定一条“出事后如何交代”的参考线。