Anthropic称已阻止科学家利用Claude AI研发生物武器

Anthropic 本周四披露，已封禁一批利用其 Claude 模型从事可能支持生物武器研发活动的科学家账号。这一消息来自该公司发布的一份长篇威胁报告，报告同时曝光了涉及监控、诈骗、常规武器研发和政治宣传等多类有害行为。Anthropic 称，这些案例是其迄今识别出的“最值得关注且最新型的威胁活动”，涉事主体包括犯罪分子、疑似国家支持的组织、间谍软件供应商以及国家宣传机构。 在生物领域，Anthropic 共列出五个可能支持生物武器开发的案例，并将生物滥用称为“前沿 AI 模型最严重的风险之一”。公司强调，这些案例“提供了模型能力的证据”，但“无法具体证明这种能力会在现实世界中被用于开发生物武器”。涉事人员均为在职科学家，Anthropic 未公开其身份，并表示“不能断言他们有意造成伤害”。一旦发现并调查确认，公司便封禁相关账号，并将调查结果纳入前沿模型的安全防护、执法和威胁情报流程，以提升未来预防、检测和阻断此类活动的能力。报告还提到，Claude Fable 5 等较新模型已配备更强防护，限制“广泛的军民两用生物学研究查询”。Anthropic 指出，AI 的生物能力既可造福也可为害，“可用于开发生物武器的信息，同样可用于研发疫苗或疾病疗法”。 除生物风险外，报告还披露了 AI 被用于政治宣传和监控的情况。Anthropic 识别并移除了多个利用 Claude 开展影响力行动、试图操纵公众舆论的账号，其中包括三个与伊朗国家宣传机构有关联的账号。这些操作利用 Claude 生成内容、将帖子伪装成独立新闻来源，并在 X、Instagram 和 TikTok 等平台扩散。其中一个与伊朗有关的威胁行为者还借助 Claude 制定针对该地区美国海军力量的打击建议，并用同一账号为伊朗国家系统设计了一套国内大规模监控平台的软件。此外，Claude 还被中国和西非的行为者用于构建和运行监控行动，部分案例中甚至用于识别目标。Anthropic 称，在中国，三个与中国市级安全部门有关联的账号利用 Claude 进行监控和跨国镇压，其中包括一个对海外活动人士和组织进行画像的市级机构。