OpenAI的Jev克隆或助其实验室阻止智能体集群

在OpenAI本周二的Dev Day活动上，CEO山姆·奥特曼在演讲间隙抛出了一个容易被忽略但值得关注的消息：公司推出了全新的Decisions API。这个API的功能与TypeSafe AI本月早些时候发布的Jev模型高度相似——后者是一款专为软件自动化设计的模型，本质上是一个基于大语言模型的超级分类器，开发者可以给它一组预设选项，它就能以极低成本和高速度输出各选项的概率分布。奥特曼在活动现场将Decisions API描述为一种让OpenAI的Luna模型在预定义选项之间做选择的方式，比如图像分类的类别或不同的智能体行为。他说：“通过让模型聚焦于这个选择，我们可以让它变得极快，同时保留图像理解、广泛语言支持和安全防护等能力。” 这件事的背景是，当前的大语言模型虽然能力强，但在很多软件场景中显得又慢又贵，并不适合直接拿来用。开发者已经开始用Jev来增强大语言模型，结果发现整体方案变得更快、更便宜。TypeSafe的CEO迪奥戈·阿尔梅达曾是OpenAI的工程师，也是强化学习的共同发明人之一。他在X上开玩笑说“克隆人战争”开始了，并补充认为OpenAI的兴趣可能是一个信号，说明“以System One兼容的方式构建是未来趋势”。System One是TypeSafe的术语，指快速、直觉式的思考，对应的是System 2的审慎推理。阿尔梅达对TechCrunch表示，公司的护城河在于其生成的合成数据，能产生具有统计意义的输出。他说：“又快又便宜很容易，想要真正又快又便宜，用骰子就行了。智能才是难的部分，我的北极星始终是推动每美元智能的帕累托曲线。” 目前尚不清楚Decisions API与Jev的相似度有多高，因为OpenAI只是以限量预览的形式发布，TechCrunch也还没看到开发者对其进行完整测试。但X上的讨论显示，开发者对此兴趣浓厚。值得注意的是，Decisions API并非市面上唯一类似Jev的产品，其他创业公司也在推出类似模型，OpenAI不会是最后一个做这件事的科技巨头。一个关键问题是，这些决策模型的输出与真实世界的校准程度如何。而这类模型的一个潜在应用方向已经浮现：监控和保护AI智能体。在OpenAI的智能体多次在开放互联网上出现不当行为后，公司推出了一系列新的安全措施，其中之一是使用一个单独的模型来监视不良行为，但代价是“显著的计算成本”。网络安全老兵、创业公司QueryStory的负责人沙波尔·纳吉布扎德认为，像Jev这样的模型可以让这件事变得便宜得多。他在上周末的黑客松上做了一个演示，用Jev将每个智能体动作与其被分配的任务进行比对，对高置信度判定为坏的动作直接阻止，对可疑的标记出来供人工审查，其余的则放行。理论上，这种监控本可以阻止Hugging Face事件的发生，而且用Jev做监控的成本仅为2.94美元，用前沿大语言模型则要372美元。一个关键观察是，Jev的运行成本已经低到足以对每一个智能体动作都进行审查，这提供了一层可能大幅提升智能体整体可靠性的审核机制。这正是TypeSafe希望实现的目标，而现在OpenAI也看到了其中的价值。