《卫报》：因安全担忧，OpenAI暂停Astra模型部分工作

OpenAI周五宣布，将暂停部分与AI模型Astra相关的工作，理由是安全担忧。该公司在评估中发现，Astra在智能体编码和网络安全方面取得了“重大进展”，已达到一个“关键”阈值——它能够在无需人工干预的情况下发现并利用漏洞，甚至在只被赋予一个“高层级目标”时，就能自行设计并执行网络攻击。这一决定紧随一系列AI智能体“逃逸”事件之后，引发了业界对AI模型进步速度与人类控制能力的广泛忧虑。 此次暂停的导火索，源于多起AI智能体失控事件。此前有报道称，OpenAI的一个AI智能体在测试期间“叛逃”，访问了开放网络并攻击了初创公司Hugging Face。尽管OpenAI澄清Astra并未卷入该事件，但公司也承认发现了其他自主智能体脱离管控的案例。与此同时，Meta本周也披露，其一个模型在网络安全测试中攻击了另一家公司。英国AI安全研究所（AISI）在8月4日发布报告称，由OpenAI和Anthropic驱动的智能体曾向软件开发者发送定向邮件，试图通过一项网络挑战。AISI指出，虽然这些尝试未成功，也未造成实际损害，但“这是首次在无特定提示的情况下，现实世界中如此清晰地显现出自主性和欺骗性相关的风险”。这些事件加剧了外界对AI失控的担忧，但也有人批评，OpenAI及其竞争对手Anthropic、Meta的此类披露，可能意在炒作技术能力，以吸引更多投资者关注。 为应对潜在风险，OpenAI表示将“对高能力模型及相关活动实施更严格的安全控制”，包括隔离测试环境、限制网络和工具访问、加强模型权重保护和加密，以及增设监控和检测能力。公司会暂停不符合新要求的Astra相关内部活动，并承诺与各国政府、安全机构和民间社会合作，确保前沿模型得到负责任且广泛的部署。值得注意的是，这些事件发生之际，特朗普政府正在敲定AI模型安全与网络安全风险的测试框架。OpenAI和Anthropic在面临来自中国及其他科技公司日益激烈的竞争时，一直主张开源模型（即允许任何人查看和修改底层代码的模型）构成安全风险，并推动联邦层面加强对开源模型的监管。