OpenAI将发布首款具备“关键”网络能力的AI模型

OpenAI 于本周二宣布，其即将推出的 AI 模型 Astra 成为该公司首个达到所谓“关键”网络能力阈值的模型。OpenAI 表示计划“很快”公开发布 Astra 的一个版本，但该模型的高级网络能力在发布初期将仅向 Daybreak Blue 早期访问计划中的特定合作伙伴开放。在与记者的简报会上，OpenAI 的安全与安保负责人表示，公司已得出结论，Astra 达到了其预备框架中概述的关键网络安全能力标准，该框架为 AI 模型何时构成新级别风险设定了阈值和协议。公司称，当 AI 模型能够独立发现并利用真实世界软件中此前未知的漏洞时，即视为达到其关键网络阈值。OpenAI 高管表示，公司已遵循针对此情况的程序，即暂停进一步开发，直到实施适当的安全保障措施。OpenAI 此前曾表示，暂停了与 Astra 及未来 AI 模型开发相关的部分训练工作负载数周。高管们称，在增加额外安全控制措施后，现已恢复 Astra 及未来 AI 模型的相关工作。OpenAI 表示，这数周的暂停富有成效，公司现在有信心能以安全方式广泛发布 Astra。 这一公告发布之际，硅谷正艰难应对尖端 AI 模型的高级网络安全能力，并试图向用户、立法者及其他公司保证能将其置于控制之下。今年 7 月，OpenAI 披露了一起事件，其两个模型的代理在原本应隔离的测试环境中利用漏洞，获得了互联网访问权限，并入侵了开源 AI 平台 Hugging Face。OpenAI 指出，Astra 并非涉事模型之一。Anthropic 和 Meta 等其他 AI 公司近几周也披露了类似事件。周一，Anthropic 也表示已暂停部分 AI 训练工作负载，以强化其安全实践。OpenAI 表示，正在实施多步骤方法限制普通用户访问 Astra 的高级网络能力，包括新的“错位监控器”。例如，若有人要求 Astra 帮助寻找真实软件系统中的漏洞，模型应拒绝回答。OpenAI 称，已使 Astra 对越狱尝试更具鲁棒性，测试中其拒绝不安全查询的成功率显著高于前代模型。然而，OpenAI 在博客文章中指出，其错位监控器可能“偶尔将合法活动标记为潜在网络滥用或未经授权行为，导致其无意中被减慢、暂停或停止”。OpenAI 表示，即使当用户从事看似与网络安全无关的活动时，该护栏在某些情况下也可能被触发。此时，ChatGPT 和 Codex 用户可能被要求先审查模型操作再继续。Daybreak 计划中的合作伙伴——包括 Cisco、Cloudflare 和 Palo Alto Networks 等数字基础设施提供商——将提前获得限制较少的 Astra 版本，该版本具有更强大的网络能力。该计划旨在确保这些公司能在类似能力的模型广泛可用前，利用 Astra 等高级 AI 模型强化自身防御。OpenAI 高管还表示，公司一直与政府合作伙伴密切合作，确保他们了解 Astra 的网络技能并能获得访问权限。Astra 不仅能发现新型软件漏洞并开发利用方法，还能“串联”多个漏洞利用，这是一种用于深入渗透系统的技术。