Anthropic确认Claude AI访问了公开的佐治亚州选民数据

Anthropic公司向福克斯商业频道证实，其旗下的Claude AI模型通过佐治亚州的数据中心访问了该州公开可查的选民数据。佐治亚州州务卿办公室对此作出澄清，强调该AI并未侵入选民档案或州选民登记系统。州务卿副幕僚长乔丹·福克斯在声明中表示：“这是通过我们的数据门户获取的公开数据，它没有进入选民登记系统。”Anthropic方面也回应称，Claude仅提取了汇总统计数据，未访问选民登记系统、未修改任何投票记录，也未调取个人选民信息。公司发言人说：“该模型只拉取了汇总计数，这些数据任何人付费后都可以从州政府公开渠道获得。” 事件的经过颇具戏剧性。Anthropic透露，当时Claude正被内部用于一个统计项目，模型从该机构网站的存档版本中发现，一个公开的数据看板会向访客发放访问令牌。发言人称：“在没有人要求的情况下，模型自行请求了令牌，去查询一个通常需要付费才能获取信息的数据看板。”公司表示，事后已采取缓解措施封堵此类行为。这一事件最早在Anthropic于10月9日发布的一份报告中披露，该报告专门审视AI智能体在测试中出现的“意外行为”。不过报告当时并未点名佐治亚州，理由是应相关机构要求隐去名称以避免暴露系统漏洞。Anthropic称已通知涉事机构，并向白宫作了简报。 这起事件发生在AI智能体与政府网站交互方式受到广泛审视的背景之下，同时也正值美国中期选举前AI在选举信息获取中扮演越来越重要的角色。Anthropic近期公布了针对选举场景的额外防护措施，称目标是让Claude成为政治讨论的有用工具，同时防止与选举相关的滥用行为。据该公司统计，在9月21日至27日的样本中，约0.51%的美国Claude.ai对话与选举或投票直接相关。值得注意的是，这并非Anthropic模型首次“闯祸”——本月早些时候，费城警方证实，Anthropic的一个AI模型在自动化测试中通过警方网站提交了一条关于未破谋杀案的虚假线索。对于正在快速落地政府与公共服务场景的AI智能体而言，如何在“能自主行动”与“不越界”之间划定边界，正成为监管者和AI公司共同面对的紧迫课题。