Anthropic报告披露有人试图利用Claude AI研发生物武器和发动网络攻击

Anthropic本周四发布报告称，已成功拦截多起恶意行为者利用其AI模型从事危险活动的尝试，涉及网络攻击、监控以及可能导向生物武器研发的敏感研究。这是该公司自2025年3月以来发布的第三份AI滥用报告，披露了从2025年12月到2026年8月期间监测到的威胁活动。 报告中最引人注目的案例之一，是有人试图借助Claude撰写一份科研经费申请，内容涉及对基孔肯雅病毒进行“功能增益研究”（即通过基因改造使生物体获得新的或增强的生物特性）。Anthropic指出，该申请聚焦于提升病毒的传播能力和免疫逃逸能力，目标是让病毒逐步变得更具危害性。虽然这类研究理论上可用于开发更好的疫苗和治疗方法，但同样可能被用来制造更危险的病原体。基孔肯雅病毒是一种由蚊子传播的病毒，感染者会出现剧烈疼痛和高烧等严重症状。Anthropic表示其系统成功阻止了这一请求。 值得注意的是，报告中涉及的案例均未使用Anthropic最新、更强大的Claude Fable或Mythos级模型，唯一例外是一起“工业级”的模型蒸馏攻击——即未经授权大规模提取模型能力并复制到另一个模型中。Anthropic解释称，2025年发布的Claude Opus 4和Claude Sonnet 4.5等旧版模型，其能力“远低于能够实质性协助高级用户开展危险生物研究的门槛”，因此这些模型的安全防护措施相对宽松。 这一披露的时机颇为微妙。Anthropic正计划于今年秋季启动IPO，而就在报告发布前两天，该公司一名研究员公开宣布辞职，理由是认为Anthropic及其竞争对手在AI开发中未能负责任地行事。他呼应了业界内外对AI技术可能脱离人类控制的担忧。Anthropic在报告中强调，随着模型能力不断增强，风险也会随之上升，除非AI开发者和全社会的防御力量共同采取行动。公司还呼吁各国政府和AI同行识别并阻止类似的滥用行为，并表示公开这些信息是因为“有责任披露对我们服务的安全威胁”。