Anthropic披露恶意分子利用其AI研发生物武器

Anthropic本周四发布了一份长达154页的威胁情报报告，详细披露了犯罪分子、国家支持的黑客组织、间谍软件厂商以及科研人员试图滥用其AI模型的行为。报告中最引人关注的是五个与生物研究相关的案例：有科学家利用Anthropic的Claude模型协助撰写国家资助的科研申请，研究对象是基孔肯雅病毒——一种由蚊虫传播、可导致数月严重疼痛和发热的疾病。这类研究本身可用于疫苗开发，但同样可能被用于制造生物武器。Anthropic特别指出，其中一个案例令人担忧的地方在于，研究计划是在一家军事研究机构进行的。这些研究人员还试图绕过平台对“未支持地区”的限制，并刻意隐藏研究目的。Anthropic表示已封禁相关账户，但未透露涉事机构名称和所在国家，理由是尚不能确定研究人员的真实意图。 这份报告的发布时机颇为微妙。就在两天前，Anthropic前员工Jacob Coxon公开辞职，声称公司正在“直奔自我进化的超级智能”，并预言这种技术将在2030年前导致人类灭绝。他的言论引发媒体热议，部分在职员工也公开表达了认同。不过，许多AI专家认为，像Anthropic报告中披露的这些现实威胁，在未来三年内远比“全能智能带来末日”更值得警惕。AI Now Institute首席AI科学家Heidy Khlaaf指出，AI加速主义和AI末日论其实是同一枚硬币的两面，它们都在强化“AGI超级存在必将出现”这一预设。 除了生物领域的滥用，Anthropic还披露了数十个其他威胁案例。其中包括俄罗斯的间谍活动和“砸抢式”网络攻击；针对叙利亚维吾尔人的监控项目以及针对内部异见者的监视行动；在俄罗斯、马来西亚、伊朗和孟加拉国开展的宣传战；以及在也门、中国和俄罗斯，有人利用Claude开发常规武器相关软件，涵盖枪械、导弹、武装无人机、炸弹及其他弹药。Anthropic在报告中写道：“我们分享这些案例，不是因为它们是典型的滥用行为，而是因为它们是我们迄今为止识别出的最值得注意、最新型的威胁活动。我们发布这项工作，是因为我们认为有责任披露对我们服务的恶意滥用。”对于中国跨境电商卖家和AI从业者而言，这份报告传递出一个明确信号：前沿AI模型的能力边界正在被各方势力试探，平台层面的安全防护和合规审查只会越来越严，依赖AI工具进行产品开发或内容生成的企业，需要更加关注使用场景的合规性，避免因无意中触碰敏感领域而遭遇账户封禁或法律风险。