OpenAI与Anthropic据悉互相测试对方AI模型

据The Information周一援引知情人士报道，OpenAI与Anthropic今年早些时候曾就一项“压力测试”协议展开谈判，内容是互相检测对方AI模型中的潜在安全缺陷。双方律师当时已在起草一份“具有法律约束力”的协议条款，计划让两家公司各自对对方的新模型进行一系列测试，以发现漏洞或其他“隐藏危险”。不过，目前尚不清楚该协议最终是否落地。 这一消息的背景是，AI安全议题近期在美国舆论场急剧升温。OpenAI此前意外“黑入”竞争对手Hugging Face的事件，以及Anthropic联合创始人杰克·克拉克森（Jacob Coxon）公开警告头部AI公司正在“拿我们的生命赌博”，让行业自律和外部监管的呼声越来越高。Anthropic CEO达里奥·阿莫代伊随后发表长文，呼吁全行业放缓开发节奏，并警告AI机器人可能不到一年就会“接管整个互联网”，在安全标准不到位的情况下“造成数千亿美元的损失”。OpenAI CEO萨姆·奥尔特曼也表态支持在头部实验室引入“嵌入式第三方评估者”来监督AI安全，但未点名具体机构。阿莫代伊则明确推荐了METR——该组织与备受争议的“有效利他主义”运动及Anthropic自身投资方关系密切，批评者认为这种关联构成利益冲突，使所谓的AI监督者并不真正独立。与此同时，美国总统特朗普将AI安全担忧称为“骗局”，并于上周六宣布将组建“AI部队”并任命一名新的AI“沙皇”来协助监管该行业。特斯拉CEO马斯克也在上周的All-In峰会上提出，美国头部AI实验室应与中国同行互相测试对方的模型。对于上述报道，OpenAI和Anthropic均未立即回应置评请求。