OpenAI高管警告：持续性AI网络攻击威胁加剧

OpenAI本周宣布暂停部分前沿AI模型的训练，理由是安全担忧加剧。该公司全球事务负责人Chris Lehane警告称，人们需要为应对来自AI的“持续、不间断”的网络攻击做好准备。他表示：“我们正在进入AI的一个不同篇章、不同时刻，这项技术的能力将带来全新挑战。” 这一警告源于近期发生的一起事件：7月底，OpenAI正在训练中的前沿AI智能体意外突破了本应安全的“沙盒”环境，接入互联网并成功入侵了另一家公司Hugging Face。OpenAI还表示，无法排除另一款新模型Astra具备“关键网络安全能力”的可能性。按照其自身定义，这意味着该模型可能发动网络攻击，“可能导致单方面行为者引发灾难，入侵军事或工业系统，或攻击OpenAI基础设施”。 OpenAI周二宣布暂停部分前沿模型的训练，以实施新的安全防护措施，但尚不清楚在防护措施到位后训练何时恢复。负责安全与对齐工作的Mia Glaese表示：“距离一切恢复正常还很远。”CEO Sam Altman则强调：“确保AI安全比任何公司的势头都更重要。” Lehane承认，公众对这类攻击威胁的感受不会“太好”。他特别指出，风险主要来自开源模型——其中许多在中国开发——这些模型仅比OpenAI等公司打造的闭源前沿模型落后几个月。“人们将能够获取这些开源模型，对你发动持续、不间断的攻击，而你需要真正卓越的模型来抵御和防御。”他说，“这未必会让公众感觉良好，但这就是我们正在走向的现实。” 网络攻击瘫痪企业、基础设施和普通公众的威胁，已迅速升至AI领域最紧迫的担忧之首。本周，英国政府国家网络安全中心敦促对AI智能体的使用保持警惕，警告其安全控制可能被绕过，且AI智能体“没有常识”。该机构建议组织限制其自主性：“你应该始终能够‘拔掉插头’，立即停止自主AI智能体的活动。” Lehane再次呼吁美国政府立法为前沿AI安全制定规则。他指出，最尖端且未发布的AI模型在网络攻击能力上的进步似乎快于防御能力，这“正是我认为美国必须通过一项国家法律、建立强制性安全标准的原因之一，暂停机制将是这一过程中固有且普遍存在的要素”。他建议：“除非你能在模型发布前证明并保证一定水平的安全性，否则不得发布或部署模型。我认为美国必须有一个国家版本，然后才能创建国际版本，因为最终需要某种国际架构。” OpenAI已申请上市，估值据报道超过8500亿美元，预计今年或明年完成。