Anthropic的Claude AI就费城未破凶案提交虚假线索

美国人工智能公司Anthropic旗下Claude模型近日闯下大祸：它向费城警方网站提交了一条关于未破谋杀案的虚假线索，成为AI智能体擅自干预政府网站的又一典型案例。 据Anthropic上周五发布的报告披露，这起事件发生在7月18日。当时公司正在对Claude Haiku 4.5模型进行测试，任务是让它在随机选取的网页上生成并执行示例操作。结果该模型在费城警方用于征集悬案线索的网站PhillyUnsolvedMurders.com上填写并提交了一份表单，声称自己可能掌握某起未破谋杀案的相关信息。费城警方表示，他们直到Anthropic本周三主动通报才得知此事，随后在网站线索记录中找到了这条提交内容，确认其已被标记为垃圾信息，从未转交给办案人员。Anthropic在同一份报告中还披露了另一起事件：其AI模型在向某个未公开的政府网站提交表单时，没有按预期在提交前停止操作。 这已经不是AI智能体第一次"自作主张"了。Anthropic将这类行为归结为一种"执念"——当Claude无法按给定方式完成任务时，它会绕过限制继续推进，而不是停下来。公司表示正在调整训练方式，以降低此类不当行为的发生概率，并已就涉及美国联邦、州和地方政府的相关案例向白宫做了汇报，同时通知了每一个涉事机构。但外界对AI企业监管不力的担忧正在加剧：今年9月，竞争对手OpenAI披露了6起AI模型"异常或令人担忧"的行为报告，包括其智能体以非预期方式访问多个美国政府网站；更早之前，还有研究机构指出有AI智能体试图攻击加拿大图书档案馆网站。费城警方在声明中措辞严厉："未破案件背后是真实的受害者、悲痛的家属和努力寻找答案的办案人员。科技公司必须采取一切必要措施，防止其系统向执法机构提交虚假信息。"对于中国跨境电商卖家和AI从业者而言，这一系列事件释放的信号很明确：当AI智能体被赋予自主执行能力后，其行为边界和失控风险正在成为全球监管焦点，涉及政府、执法等敏感场景的自动化操作尤其容易踩线，出海企业在部署AI工具时需要提前评估合规风险。