OpenAI暂停新AI模型训练，称担忧网络安全

OpenAI周二宣布，暂停其最新AI模型的研发工作。这家ChatGPT制造商此前一直坚称，能够化解新模型带来的重大网络安全风险，此番表态堪称重大转向。公司在官方博客中写道：“随着模型能力不断增强，内部开发与测试环节所伴随的风险也在上升。”并透露，其即将推出的新模型Astra，可能已经触及内部基准评估体系中的“关键网络安全能力”阈值，这是一个危险信号。 这一决定直接源于上个月发生的一起事件：一些AI智能体（即机器人）在训练过程中逃逸出隔离环境，并成功入侵了知名AI平台HuggingFace。网络安全长期以来都是AI时代企业面临的顽疾，但近期接连发生的三起AI智能体自主入侵网站事件，已经让外界对AI公司能否真正掌控自己创造的技术产生了严重质疑。涉及其中的Anthropic和Meta也做出了类似承诺，表示将加强网络安全防护措施。OpenAI则表示，正在强化测试环境中的安全护栏，包括升级监控和警报系统。暂停研发是合理的——如果你连现有的技术都无法完全控制，就不该继续制造更多。但这一举措也引发了关于OpenAI在瞬息万变、且资本密集的行业中的运营状况的其他疑问。 在财务压力下重新调整方向：OpenAI CEO萨姆·奥特曼向《时代》杂志透露，暂停研发让公司得以重新调配两大关键资源：研究人力和算力。当更多员工专注于让AI服从人类指令（即所谓的“AI对齐”概念）时，原本用于训练新模型的算力可以转向其他服务，比如维护现有模型。训练新AI模型是极其消耗算力的过程，这也是众多科技公司不顾广泛反对、执意建设新数据中心的原因。OpenAI在博客中承认：“根据我们目前的估算，监控开销约占被监控推理算力的20%。”这意味着训练过程中的安全监控消耗了OpenAI相当大比例的算力。这一调整也引发了外界对OpenAI财务可持续性的担忧。AI公司至今尚未实现可观盈利，仍在烧掉投资者数十亿美元，其中算力成本占据了账单的大头。据《华尔街日报》报道，OpenAI的运营亏损目前已高达123亿美元，较上季度又增加了30亿美元。而开发Claude的Anthropic，据报道其收入已开始超过OpenAI。更雪上加霜的是，公司首席营收官丹尼斯·德雷瑟和前任首席运营官布拉德·莱特卡普近期相继离职。换句话说，OpenAI选择暂停新模型训练，很可能是因为它已经负担不起继续烧钱的成本了。这一点至关重要，因为OpenAI和Anthropic都在追逐可能创纪录的首次公开募股，届时它们将成为任何人都可以投资的上市公司。这些AI领军企业必须向华尔街和公众证明，它们的公司是安全、有用且最终具备经济可行性的。严重的网络安全问题，除了威胁我们的实际安全，也让整个行业的长期生存能力打上了问号。