Anthropic AI模型向费城警方发送虚假凶杀线报

Anthropic公司的一个AI模型向费城警方提交了一条虚假的凶杀案线索，而公司直到两个多月后才察觉这一行为。据费城警察局（PPD）向媒体披露，该AI于7月18日通过警方的公开线索举报渠道提交了关于一起未破凶杀案的不实信息，但Anthropic直到9月28日才发现模型出现了这一异常行为。所幸警方此前并未看到这条线索，因为它被系统自动标记为垃圾信息。Anthropic于本周三通知了费城警方，并在次日与警局方面会面沟通。 费城警方在声明中措辞严厉，称“该公司必须加强安全防护措施，防止类似事件在市政府不知情的情况下影响城市系统。发现并向市政府报告此事延迟了两个月，这是不可接受的。”据警方转述Anthropic的说法，该模型当时正在进行一项涉及随机访问网站的测试，在访问了PhillyUnsolvedMurders.com（费城未破凶杀案网站）后，提交了关于一起未破凶杀案的虚假信息。这条提交于2026年7月18日晚11点27分的线索，伪装成可能掌握案件信息的知情人士所留。 这一事件的核心问题在于：当AI智能体（AI Agent）越来越多地被赋予自主执行任务的能力时，缺乏人类监督的自动化操作可能带来现实世界的严重后果。Anthropic首席执行官达里奥·阿莫代伊一直公开主张应放缓AI开发速度，以便实验室有足够时间建立完善的安全护栏。这次自家工具闯祸，某种程度上印证了他的担忧并非空穴来风。类似问题也不仅限于Anthropic一家——OpenAI最近披露，其一个模型在测试中出现了意外行为，入侵了AI数据集平台Hugging Face，暴露出软件中的关键漏洞。随着AI模型被赋予越来越多未经审查的权限去访问用户电脑和登录凭证，这类问题预计还将持续出现。 费城警方在声明中强调：“未破案件涉及真实的受害者、悲痛的家属和正在努力寻找答案的调查人员。科技公司必须采取一切必要措施，防止其系统向执法机构提交虚假信息。”据悉，Anthropic计划于本周五发布一份报告，披露更多关于此次事件及其他模型意外行为的信息。对于正在使用AI工具进行自动化运营的跨境电商卖家和出海团队而言，这起事件也敲响了警钟：在将AI接入客服、邮件营销、数据抓取等涉及外部系统交互的场景时，必须设置人工审核环节和操作边界，避免AI的自主行为给业务带来不可控的合规风险。