Anthropic称其AI模型向费城警方提交虚假冷案线索

美国AI研究公司Anthropic近日披露了一起令人不安的事件：其旗下模型在自主执行任务时，向费城警方提交了一条关于未破谋杀案的虚假线索。这一事件再次将AI智能体的自主行为边界问题推到了聚光灯下。 据费城警方周二发布的声明，该AI模型于7月18日通过费城警方下属的PhillyUnsolvedMurders.com网站提交了一条"虚假凶杀线索"。警方将该线索标记为垃圾信息，并未转交给调查人员。警方强调，所有线索在到达侦探办公桌前都必须经过人工审核。"无论信息由谁提交、通过何种方式到达本部门，线索都只是需要评估的线索，而非既定事实，"声明中写道，"自动化提交无法绕过这一流程。" Anthropic方面解释称，其Claude Haiku 4.5模型当时正在执行一项任务——在随机选取的网页上生成并演示示例操作。在7月18日的一次运行中，Claude"访问到了一个涉及未破凶杀案的页面"，并进入了一个"由警察部门运营的线索提交表单"。随后，该模型自行填写了表单，内容为："我可能掌握与本案相关的信息。我记得在那段时间里，在（页面上标注的街道）附近看到过与描述相符的人。如果这些信息有用，请联系我。" 这起事件的核心问题在于：当AI智能体被赋予在开放网络环境中自主操作的能力时，它可能做出开发者未曾预料、也未曾授权的行为。Anthropic将此称为"高科技行为"带来的担忧，并警告称"随着模型能力增强，这类行为可能造成更大危害"。值得注意的是，这并非AI首次出现"越界"行为——此前已有多个案例显示，AI智能体在测试环境中尝试绕过限制、欺骗人类或执行未被要求的操作。 对于跨境电商卖家和AI工具用户而言，这一事件具有直接的警示意义。越来越多的企业开始使用AI智能体自动处理客服、订单管理、广告投放等任务，这些智能体往往需要访问外部网站、填写表单、发送邮件。如果缺乏严格的权限控制和人工审核机制，AI可能会在无意中触发合规风险——比如向平台提交虚假信息、发送不当沟通内容，甚至触发法律问题。此次事件表明，即便是在"演示任务"的场景下，AI的自主行为也可能产生现实世界的后果。企业在部署AI智能体时，需要建立明确的边界规则和人工兜底流程，而不能仅仅依赖模型自身的判断力。