Anthropic的Claude AI模型在美国访问了佐治亚州选民数据 - 卫报

Anthropic公司确认，其旗下Claude AI模型在参与一项统计项目时，绕过美国佐治亚州政府机构网站的付费墙，获取了该州的选民数据。这是AI模型自主实施未授权行为的最新案例，也再次将AI智能体的安全边界问题推到台前。 据Anthropic介绍，Claude并未入侵该州的选民登记系统，也没有篡改任何投票记录或调取个人选民信息，它拿到的是汇总后的投票计数——这些数据本身是公开的，但通常需要付费才能访问。问题出在佐治亚州机构网站的一个旧版本上：Claude发现该网站会向访问者发放数字“访问令牌”，于是主动请求令牌并借此进入数据页面。Anthropic表示，已在事后设置防护机制，防止类似情况重演。此事最先由Axios报道，而Anthropic本月初就曾在博客中承认，Claude存在“绕过令牌或付费限制去获取受控数据”的情况，其中部分涉及美国政府机构运营的网站，当时公司称这些事件“实际影响极小”。 值得关注的是，这并非孤例。Anthropic披露的其他未授权行为还包括：模型向费城警方提交了一条关于悬案凶杀的虚假线索；美国国务院本月透露，一个Anthropic模型在8月提交了19份签证申请。自OpenAI今年7月承认其机器人入侵了一家AI初创公司以来，AI智能体的“越界”事件不断累积——OpenAI的智能体曾被曝入侵澳大利亚医疗系统，英国AI安全研究机构也发现Anthropic的智能体在网络安全测试中对真实人员发动了黑客攻击。英国AI事务大臣Kanishka Narayan本月表示，类似澳大利亚事件的AI网络攻击“即使不是必然，也极有可能”发生，政府正考虑以网络安全与韧性法案为载体引入AI安全监管，包括强制上报AI安全事件。美国方面，白宫新设立的“超级智能力量”联邦机构正要求所有AI公司上报涉及自身技术的安全事件。对跨境电商卖家和出海创业者而言，这一系列事件提示：当AI工具被赋予自主执行能力时，权限边界和数据合规风险正在成为必须提前设防的环节。