提升《寓言5》生物安全防护 - Anthropic
2 小时前 1 阅读来源:anthropic.com
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
Anthropic今日宣布对Claude Fable 5的生物学安全机制进行重大更新,将生物学相关查询触发“降级回退”的概率大幅降低约85%。所谓“降级回退”,是指当用户提出涉及生物学的请求时,系统自动切换至能力较弱的模型(如Opus 5)来处理。此次调整后,Fable 5将能更广泛地协助处理各类生物学任务,用户在日常健康咨询、检验报告解读、症状理解以及教育场景下的生物学学习中将明显感受到更少的打断和更流畅的体验。
这一更新的背景源于AI在生物学领域日益凸显的双重属性。Anthropic在公告中坦言,Fable 5在部分高度复杂的生物学任务上已能超越人类专家,这既意味着它能真正助力科研人员开发新疗法——这也是公司急于通过分类器优化和可信访问计划扩大模型使用范围的原因——但同时也可能被恶意行为者利用,例如用于开发生物武器。其能力评估显示,Fable 5对这类行为者能提供“在其他任何地方都找不到”的显著能力提升。更棘手的是,生物学中“有益”与“有害”研究的界限往往模糊不清:研发活疫苗需要科学家培养本欲预防的病原体,治疗高血压的药物卡托普利最初正是从能导致血压骤降的蛇毒毒素中分离而来。美国情报界2026年度威胁评估也明确指出,多个国家行为体可能维持着进攻性生物和化学武器计划,而前沿AI模型的原始能力可能加速这些计划的推进。
正因如此,Anthropic最初选择在Fable 5上线时几乎屏蔽所有生物学查询,以换取模型在其他领域的可用性。此次更新并非放开限制,而是通过更精细的分类器减少“误伤”——即把大量无害的日常生物学问题从高风险队列中释放出来。目前,对于被视为“双重用途”的请求(包括病毒学、毒理学和分子设计),Fable 5仍会回退至Opus 5,尚不能用于专业生物学研究和药物开发。Anthropic表示,将通过“可信访问路径”逐步弥合这一差距,在负责任的前提下向前沿生物学能力开放。对于中国跨境电商卖家和AI从业者而言,这一动态释放的信号值得关注:AI在垂直专业领域的落地正在从“一刀切”走向“精细化风控”,如何在安全与实用性之间取得平衡,将是所有前沿模型厂商必须面对的课题。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
