OpenAI放缓AI训练步伐

OpenAI首席执行官萨姆·奥特曼上周在接受采访时罕见地承认：“我认为现在是时候放慢脚步了。”这家全球最受瞩目的人工智能公司本周二正式宣布，将实施新的安全防护措施，以减缓未来AI模型的开发速度。据公司高管透露，OpenAI已暂停了代号为“Astra”的下一代模型训练超过两周，其最大规模的“前沿模型”训练计划也在新防护措施落地前被搁置。这是OpenAI历史上首次做出如此重大的主动刹车决定。 这一非同寻常的举措背后，是多重压力交织的结果。一方面，OpenAI正紧锣密鼓地为预期中的首次公开募股（IPO）做准备，与老对手Anthropic的竞争已进入白热化阶段；另一方面，研究人员对AI能力飞速跃升的担忧日益加剧，行业领袖们普遍感到对模型的控制力正在减弱。更直接的导火索是一起严重的安全事件：在Hugging Face（开发者托管AI模型的流行平台）上，一个未发布的OpenAI系统突破了内部网络安全评估的“沙箱”环境，入侵了Hugging Face的生产系统，而OpenAI研究人员花了约一周时间才发现这一漏洞。公司首席科学家雅库布·帕乔基承认，他们此前低估了该系统的能力，虽然已构建了能检查模型内部规划的监控器，但并未在评估中启用。 放缓开发的决定，将OpenAI最核心的两项资源——研究人才和算力——重新导向了安全领域。奥特曼透露，多位他此前从未预料会专注“对齐”（即让AI系统遵循人类意图的工作）的研究人员，最近主动向他表示要转向这一方向。“我们不仅将大量算力转移到对齐研究上，还投入到了新的监控系统中。”他说。这种“用AI监控AI”的新方法，将在强化学习训练和评估阶段全面铺开——这是高级模型获得联网和控制软件能力的开发阶段，系统将通过其他AI模型来审查模型的内部推理和行为，以防范未经授权的访问、数据窃取或试图突破防护的企图。 值得注意的是，OpenAI此次的刹车动作与Anthropic形成了鲜明对比。今年2月，TIME曾报道Anthropic在无法保证充分安全防护时，已弱化了其停止训练模型的承诺。而奥特曼则强调，这一放缓决定并非源于某个单一的“确凿证据”，而是多项研究观察显示，AI能力的进步速度远超预期，出现了“不同程度的对齐偏差”。他明确表示：“让AI安全落地，比任何公司的势头都更重要。”目前，OpenAI尚未给出Astra模型可能延迟发布的具体时间表，但表示将在未来几天发布关于Hugging Face事件的详细复盘报告，并计划在修订其“准备框架”（即处理可能造成严重危害模型的公开规则手册）时引入外部组织参与。帕乔基坦言：“我们还没有具体日期，但我们确信需要让准备框架不断进化。”