Anthropic称已阻止AI被用于生物武器研究的潜在滥用

Anthropic本周四披露，该公司今年拦截了多起试图利用其AI模型进行生物研究的行为，这些研究可能被用于协助开发生物武器。公司已封禁相关账号，并升级了安全防护措施。在一份长达154页、名为《检测与对抗AI滥用》的报告中，Anthropic详细列出了五个案例，涉及研究人员使用其Claude聊天机器人进行具有潜在两用性质的先进生物研究。调查结束后，公司封禁了所有关联账号，将发现同步给政府主管部门和其他AI实验室，并强化了安全机制。Anthropic表示，还配合合作伙伴关停了用于规避地区封锁的中继网络。 所谓“两用”，指的是同一类生物学信息既可用于研发疫苗和疗法，也可能被挪作制造生物武器的用途，两者之间的界限往往非常模糊。报告特别提到一个案例：有研究人员要求Claude协助撰写一份关于基孔肯雅病毒功能增益研究的经费申请。基孔肯雅病毒由蚊虫传播，该申请涉及对病毒进行改造，使其更具传染性和危险性。这类研究本身有助于科学家开发疫苗和治疗方法，但同样可能被滥用，让病毒变得更具危害。Anthropic称其拦截了这一请求，随后发现研究人员通过第三方平台绕过地区限制，将被拒绝的提示词自动转发给另一个AI模型。其他案例还涉及禽流感、正痘病毒以及非传染性毒液和毒素相关研究。 Anthropic在报告中指出，高水平的威胁行为者清楚各家AI厂商都在试图检测模型的危险用途，因此他们利用生物学的两用属性，为自己的研究维持一种“合理推诿”的空间。公司强调，并不指控这些研究人员有意造成伤害，但生物研究的两用性质决定了必须保持高度警惕。除生物领域外，报告还披露了多起与伊朗有关联的案例，相关行为者涉嫌利用Claude支持影响力行动、监控活动以及针对美国海军的研究。Anthropic称，已识别并干扰了一个与伊朗有关联的威胁行为者，该行为者利用Claude收集和分析公开数据，用于制定针对该地区美国海军力量的打击建议。公司封禁了该账号，开发了检测手段以降低未来被滥用的风险，并与政府主管部门共享威胁情报。 这一披露正值AI安全争议持续升温之际。此前已有Anthropic研究人员警告，AI在未来十年内“杀死所有人类”的概率超过10%，而公司前研究员Jacob Coxon也公开表示，人工智能可能构成对人类生存的威胁。对于中国跨境电商卖家和AI从业者而言，这一事件释放出两个信号：一是主流AI厂商正在大幅收紧对高风险领域的使用管控，依赖AI工具进行敏感研究的合规风险显著上升；二是账号封禁、地区限制与中继网络打击正在成为常态，出海企业在使用海外AI服务时，需要更加关注自身业务场景是否触碰平台的安全红线。