Anthropic警告有人试图利用AI制造生物武器

美国AI公司Anthropic近日披露，过去八个月里，其AI模型（包括聊天机器人Claude）被多次用于可能协助开发生物武器的研究，公司已封禁相关账户。这一消息再次把AI安全议题推到台前，尤其是在生物科技与国家安全交叉的敏感地带。 据Al Jazeera报道，Anthropic在周四发布的报告中列出了多起滥用案例。其中一个发生在今年5月：一名科学家请求Claude协助撰写一份资助申请，内容涉及对基孔肯雅病毒（一种类似疟疾的蚊媒病毒）进行基因突变改造，使其在活体动物中更具危害性。Anthropic表示，这起案例尤其令人担忧，因为可以判断该工作是为某军事研究机构进行的。公司随即封禁了涉事账户。Anthropic威胁情报主管Jacob Klein对《纽约时报》表示：“我们不知道的是，这项研究是否意图被武器化。”战略风险委员会的Andrew Weber在报告发布前审阅了内容，他对媒体表示，这类模型的访问权限应仅限于可信赖的研究人员。 Anthropic承认，很难区分合法研究与恶意研究，因为用于疫苗开发的调查也可能帮助设计危险病原体，因此公司选择“宁可信其有”。报告还提到，去年对旧版模型的评估发现它们无法对危险的生物研究提供实质性帮助，但新版模型已能完成复杂的科学工作。同一份报告还披露了有人试图用Claude进行导弹项目和间谍活动的案例。就在报告发布前两天，一名Anthropic研究员辞职，称AI开发竞赛“可能毁灭全人类”。而美国总统特朗普周四晚间对这类担忧不以为然，他对记者表示，如果美国不在AI竞赛中领先，将处于“非常糟糕的位置”，当被问及是否担心AI导致人类灭绝时，他说：“不，我一点也不担心。” 对于中国跨境电商卖家和AI从业者而言，这一事件释放出几个信号。首先，AI模型的能力边界正在快速扩展，从文案生成、客服自动化到复杂的科学推理，工具越强，滥用风险也越具体。其次，主要AI厂商正在加强安全审查和账户管控，这意味着依赖海外AI服务的出海企业需要关注合规风险，尤其是涉及生物、化工、军工等敏感领域的业务。最后，AI安全争议可能推动更严格的监管，进而影响API调用、模型访问权限甚至跨境数据流动，提前了解这些动向有助于规避运营中断。