为何AI不太可能用生物武器灭绝人类

关于AI可能制造生物武器毁灭人类的担忧，正在从硅谷蔓延到华盛顿。今年夏天早些时候，多家AI公司CEO联名呼吁立法管控合成DNA的制造；上个月，斯坦福大学和Arc研究所的研究人员展示了AI能够设计全新的病毒基因组；上周，Anthropic发布报告称发现有用户试图利用Claude“支持生物武器开发”，并将生物滥用列为“前沿AI模型最严重的风险之一”。随后，CEO达里奥·阿莫代伊公开敦促政府帮助AI实验室“控制前沿节奏”。一时间，AI造出致命瘟疫的恐慌似乎近在眼前。 但多位科学家认为，这种风险在全球威胁清单上的排名其实相当靠后。加州Sunnyvale基础模型研究所的研究科学家大卫·贝拉米指出，AI在生物武器问题上并非根本性的新威胁。科学界围绕“是否应发表可能危险的生物学研究”这一两用困境已经纠结了几十年。在大型语言模型出现之前，互联网本身、开放获取的科学期刊以及谷歌翻译等工具，就已经让实验室操作流程等生物信息的获取变得更容易。贝拉米说，AI本质上只是一个帮助科学家和威胁行为者更快检索信息、更快确定和采购实验方案的工具，“但这些能力并不是生物武器生产的真正瓶颈”。真正的瓶颈在于组装病毒或其他生物制剂的过程，以及所需的原材料、设备和知识。一个恶意行为者需要获取必要的基因片段，从头构建完整基因组，然后验证病毒能感染人类、引发预期疾病并具备人际传播能力。机器人实验室助手可以在一定程度上自动化部分任务并加速工作流程，但人仍然需要具备运行这些实验的专业知识以及执行所需的资源。 生物技术初创公司Ginkgo Bioworks的CEO杰森·凯利认为，通用人工智能不太可能劫持并传播现有病原体，更不用说设计新病原体并部署了。Ginkgo Bioworks专注于创建自主实验室，最近与OpenAI合作开展了一个项目，由其GPT-5模型运行实验室。凯利说：“AI无法接管实验室”，部分原因是里面工作的人类可以直接拒绝为机器人提供其要求的任何物质和设备来实际生产生物武器。这些“烦人的人类”充当着检查关卡，意味着通用人工智能要想部署机器完成通常很精细的病毒学工作，“你必须在各处配备多得多的机器人”。免疫学家德亚·乌努特马兹同样表示，人类能够挫败通用人工智能开发致命疾病的任何企图。即使一个邪恶的超级智能设法释放了超级病毒，他认为科学家也能利用其他AI系统迅速开发出疫苗。 不过，即使是一些不认为通用人工智能独立释放生物武器是当前真实威胁的人，也担心恶意行为者利用这项技术以及未来可能发生的情况。技术智库进步研究所的生物技术研究员奥利维亚·沙夫曼表示：“今天AI不可能访问一个完全自主的实验室并自主构建病毒，因为完全自主的实验室还不存在。但我确实认为，AI可以付钱让人……”