Anthropic称已阻止利用AI研发生物武器的企图

Anthropic本周四发布了一份安全报告，披露其已封禁多个利用该公司AI模型从事可能支持生物武器开发的账号。这家以Claude模型闻名的AI公司表示，生物领域的滥用是AI模型面临的“最严重风险”之一。报告详细列出了五个真实案例，涉事用户绕过了Anthropic针对特定地区的访问限制，并采取多种手段掩盖研究真实目的以规避安全审查。这些案例涉及可能的功能获得性研究（即通过实验增强病原体的传播力或致病性），研究对象包括禽流感等传染病，以及新型毒液和毒素。在为期30天的监测中，Anthropic识别出约35项存在潜在风险的研究活动，但同时承认无法确定这些行为者是“意图造成伤害”，还是在进行合法的科学研究。报告称涉事人员均为“在职科学家”，但未披露其所属研究机构或所在国家。 这一事件的核心矛盾在于AI能力的双刃剑效应。药物研发一直被视为AI最具前景的应用方向，业界领袖常常强调其在攻克癌症等疾病上的潜力。然而，让AI能够发现新药物和新材料的底层能力，同样可以被用来开发生物武器。Anthropic在报告中指出，“高级攻击不再需要高级攻击者”，AI模型具备的网络安全技能已经“抹平了以往区分国家支持的资源充足型行动与个人操作者之间的劳动力和工具差距”。换句话说，过去需要国家级别资源才能实施的生物研究威胁，如今个人借助AI就可能触及。报告披露的具体案例包括：有人请求Claude协助撰写一份拨款申请书，用于资助基孔肯雅病毒传播性和免疫逃逸方面的功能获得性研究；另一例中，美国境外的一名研究人员使用Claude研究禽流感病毒对哺乳动物的适应性及致病机制；此外还涉及正痘病毒（包括天花和猴痘病毒所属的病毒群）以及毒液毒素的研究。Anthropic表示，最新模型如Claude Fable 5已配备“更强的安全防护措施，限制对广泛两用生物研究查询的访问”，但同时也警告，随着模型能力逼近甚至超越专家水平，其影响只会越来越大。报告还提出了一个值得关注的趋势：随着AI模型被更广泛使用，AI提供商将获得比政府甚至政府间组织更多的关于真实世界使用情况的威胁情报可见性。这意味着AI公司在生物安全治理中的角色将变得越来越关键，而如何在不阻碍合法科研的前提下防范滥用，仍是整个行业尚未解决的难题。