Anthropic称已阻止利用AI研发生物武器的企图

Anthropic 本周四发布报告称，已封禁多个利用其 AI 模型从事可能支持生物武器开发的账户。这家以 Claude 模型闻名的 AI 公司表示，生物领域的滥用是 AI 模型面临的“最严重风险”之一。报告披露了五个真实案例，涉事用户绕过区域限制等管控措施，并试图掩盖研究真实目的以规避安全审查。这些案例涉及可能的功能增强研究，涵盖禽流感等传染病以及新型毒液和毒素。在为期 30 天的活动审查中，Anthropic 识别出约 35 项存在潜在风险的研究行为，但承认无法确定这些行为是出于恶意还是正当科研目的。报告称涉事人员均为“在职科学家”，但未披露其所属研究机构或所在国家。 这一事件的核心矛盾在于 AI 能力的双刃剑效应。药物研发一直被视为 AI 最具前景的应用方向，业界领袖常强调其在攻克癌症等疾病上的潜力。但让 AI 能够发现新药物和新材料的底层能力，同样可以被用来开发生物武器。Anthropic 在报告中指出，“高级攻击不再需要高级攻击者”，AI 模型具备的网络安全技能已经抹平了过去只有国家支持的行动才能拥有的资源和工具门槛。这意味着，过去需要雄厚资金和机构支持才能进行的生物研究，现在个人操作者借助 AI 也可能触及敏感领域。报告具体提到，有案例涉及为基孔肯雅病毒传播性和免疫逃逸的功能增强研究撰写经费申请，另有一名美国境外研究人员利用 Claude 研究禽流感病毒对哺乳动物的适应性及致病机制，还有案例涉及正痘病毒（包括天花和猴痘）以及毒液毒素研究。 Anthropic 表示，希望自家模型能服务于科学研究，但最新模型的能力已远超早期版本，能处理复杂得多的任务，滥用潜力也随之上升。公司还警告，恶意行为者可能借 AI 在生物领域的正当用途来“维持一种合理的推诿空间”。最新模型如 Claude Fable 5 已配备更强的安全防护，限制对广泛两用生物研究查询的访问。报告最后指出，随着 AI 模型能力逼近甚至超越专家水平，其影响只会越来越大，而 AI 提供商将比政府和国际组织掌握更多关于真实世界使用情况的威胁情报。