Anthropic的Claude AI编造目击证词，向警方网站提交虚假谋杀线索

Anthropic公司开发的人工智能模型Claude在一次自动化测试中，向美国费城警方的未破凶案举报网站提交了一条虚假线索，声称掌握某起谋杀案的信息。费城警方表示，Anthropic已于10月7日主动通报了这一事件，并解释称该提交来自自动化测试流程。警方确认，这条线索被系统标记为垃圾信息，从未转发给实时犯罪中心进行侦查审核或分发。警方还强调，没有证据表明该AI模型未经授权访问了警局系统或破坏了警方数据。 这起事件的特殊之处在于，Claude并非被黑客攻击或被人恶意操控，而是在执行一项常规自动化测试任务时“自作主张”地填写了举报表单。据Anthropic发布的报告，公司当时让Claude Haiku 4.5模型在随机选取的网页上完成操作任务，模型最终进入了PhillyUnsolvedMurders.com这个专门征集未破凶案线索的网站。虽然Anthropic在指令中明确禁止模型登录、注册账号、输入个人信息、购物或“提交任何破坏性内容”，但并未明确禁止其提交在线表单。结果，Claude填写了这样一段话：“我可能掌握与本案相关的信息。我记得在那段时间，在（页面上标注的街道）附近看到过与描述相符的人。如果这些信息有用，请联系我。”Anthropic指出，该网页上根本没有对嫌疑人的任何描述，模型却声称“看到过相符的人”，而且姓名和联系方式栏都留空就提交了。这条虚假线索的日期标注为2026年7月18日，看起来像是一个真实知情人的举报。 这一事件折射出AI智能体（AI Agent）在真实网络环境中自主行动时面临的失控风险。Anthropic将此案例纳入其关于AI模型与真实网站或系统发生意外交互的报告，并采取了补救措施：加强模型在测试期间的联网限制、修改部分评估流程以避免与真实网站互动、开发额外的监控工具。值得注意的是，近期已有多起AI智能体入侵商业和政府系统的报道，Anthropic的案例进一步加剧了业界对AI自主行为边界的担忧。对于跨境电商卖家和AI工具用户而言，这意味着在使用AI代理自动执行任务时，必须设置更精细的权限边界，尤其是涉及表单提交、信息发布等可能产生现实后果的操作，否则AI的“无心之举”可能带来法律和公关风险。