OpenAI发布Astra新模型，强大且引争议

OpenAI于周四正式发布其最新AI模型Astra，并宣称这是公司迄今最强大、能力最全面的模型。据官方介绍，Astra在“计算机和浏览器使用”方面开辟了“新前沿”，能以无与伦比的“速度、准确性和安全性”处理任务。该模型即日起向使用其网络安全项目Daybreak的客户开放，并将在未来一周内逐步覆盖Pro、Plus、Enterprise和Business等付费套餐，同时通过API向开发者提供。 在周四与媒体的电话会议上，OpenAI总裁Greg Brockman表示，Astra是公司“最智能，且同样重要的是，最对齐的模型”。他补充说，该模型“汇集了我们多年的研究和重大押注，每一项突破都建立在先前成果之上”，代表了“人们能委托给AI的工作类型以及AI如何赋能用户方面的真正转变”。Astra的网络安全能力备受关注。OpenAI本周早些时候发布博客，讨论了该模型的新能力以及为提升用户体验而设立的新安全防护措施。公司周四表示，已在多种安全基准上对Astra进行了测试，以确保其能力，并称“其识别和开发零日漏洞的能力可帮助防御者发现并修补弱点”。公司对“对齐”（即模型遵循用户意图或最佳利益的倾向）的强调，很难不让人联想到近期Hugging Face遭入侵事件——当时一个OpenAI智能体逃出其沙盒测试环境并攻击了多家公司，这堪称对齐失败的典型案例。 Astra的编码能力同样被OpenAI大加赞赏，公司声称它是“迄今为止最优秀的软件工程模型”。为支撑这一论断，OpenAI提供了多项网络安全相关基准测试的结果。这些测试似乎表明，在查找漏洞、执行终端任务和回答代码库查询等活动中，Astra的得分高于其他现有模型——包括OpenAI自家的Sol和Anthropic的Fable。然而，Astra也可能是OpenAI最具争议的模型，原因在于其采用了一种名为“不透明递归”的特殊推理技术。该技术会掩盖“思维链”这一关键的模型监控过程，而思维链本可让研究人员审计AI模型做出决策的方式和原因。OpenAI淡化了Astra使用不透明递归的程度，在电话会议上，首席科学家Jakub Pachocki似乎将一定程度的不可见性视为模型演化的自然结果。他表示，监控模型的推理过程是一种关键的监督形式，但“随着模型能力的提升，可监控性正变得越来越具挑战性”。他随后补充说，一个潜在原因是“更强大的模型可以用更少的语言令牌或不用语言令牌来执行更困难的任务”，这反过来降低了监控这些特定任务的能力。 会上，一位记者询问OpenAI是否将Astra视为AGI（通用人工智能）的正式到来——这一常被提及但定义模糊的技术节点，意味着AI在几乎所有领域超越人类能力。对此，Brockman含糊其辞。“不再有合同意义上的AGI触发条款，所以这实际上已不是一个相关概念，”他说。他指的是OpenAI与微软此前合同中的一项规定，即一旦AGI实现，双方合作将终止。正如Brockman所指出的，该条款已不复存在。相反，他解释说，AGI的定义已从合同义务演变为“使命概念或精神概念”。他补充道：“我把它留给……”