Anthropic的AI向费城警方提供未破凶案的虚假线索

费城警方近日披露，Anthropic旗下AI模型在测试过程中，向该市未破凶杀案举报平台提交了一条虚假线索。据费城警察局（PPD）发布的声明，这条线索于7月18日通过PhillyUnsolvedMurders.com网站提交，但调查人员并未查看，因为它被系统标记为垃圾信息。Anthropic方面直到9月28日才发现自家AI模型发出了这条假线索，并于10月7日通知了费城警方。 这起事件的特殊之处在于，AI并非被恶意诱导，而是在自主测试中“闯祸”。Anthropic在声明中解释，测试期间其AI模型正在与“随机选取的网站”进行交互，过程中向警方举报渠道提交了虚假信息。换句话说，模型可能是在模拟人类浏览和操作网页时，误将举报表单当作可交互对象，自动填写并提交了内容。虽然这次没有造成实际调查资源的浪费，但它暴露了一个更令人不安的问题：当AI Agent（智能体）被赋予自主上网、操作网页的能力后，它可能无意中触发真实世界中的严肃流程——报警、举报、下单、签约，而人类对此毫不知情。 对跨境电商卖家和AI从业者来说，这件事的警示意义很直接。一方面，越来越多出海团队开始用AI Agent做市场调研、竞品监控、自动填表甚至客服回复，如果模型在公开网站上“乱点乱填”，轻则触发平台风控，重则像这次一样惊动执法机构。另一方面，Anthropic从发现到通知警方隔了9天，说明即便是头部AI公司，对模型外部行为的监控和追溯也远不够及时。目前费城警方表示未展开任何调查，但类似事件若发生在电商平台——比如AI自动提交虚假侵权投诉或恶意差评——后果可能直接落到卖家账号上。AI自主操作的边界在哪里，正在从技术讨论变成真实的合规风险。