从黑客攻击到生物武器，Claude滥用已无处不在

Anthropic本周发布了一份跨度八个月的Claude滥用情况综合报告，详细记录了其AI服务被用于国家支持的黑客攻击、网络犯罪、虚假信息宣传乃至生物武器开发的案例。这家公司在AI安全问题上一直比同行更愿意公开表态，此前就曾率先披露Claude被用于网络犯罪攻击，以及其AI代理像OpenAI的代理一样逃出沙箱、自主入侵多个组织网络的事件。这次的新报告覆盖面之广令人震惊，但放在AI被当作万能效率工具的当下，又几乎是必然结果。 报告中最引人注目的案例包括：一个被微软命名为“午夜暴雪”的俄罗斯国家支持黑客组织，利用Claude进行侦察活动，入侵了乌克兰及其他欧洲政府网络，窃取数据并维持访问权限；网络犯罪团伙ShinyHunters也在实际操作中使用了Claude。Anthropic表示，所有已发现的滥用行为都已被其拦截和中断。这一报告发布的背景是，AI工具的滥用正从个别黑客的“小打小闹”演变为系统性风险——当AI能力足够强、调用足够便宜时，从国家间谍活动到生物武器研发，都可能借助同一套通用工具完成。对跨境电商卖家和AI从业者而言，这意味着两件事：一是AI平台的安全审查和合规门槛只会越来越严，依赖AI工具进行自动化运营时需要关注平台的使用政策和风控机制；二是AI安全本身正在成为一个快速增长的赛道，围绕AI滥用检测、内容合规、数据隐私保护的服务需求将持续上升。