前沿AI实验室仍不愿透露如何控制失控模型

前沿AI实验室至今仍未公开说明：如果AI模型失控，它们将如何应对。这是Guidelight AI Standards（一家致力于推动前沿AI安全开发实践的组织）近期研究得出的结论。该机构对五家顶级实验室在应对AI失控场景上的准备程度进行了评分，OpenAI排名第一，而Anthropic和Meta得分最低。这份评估的发布时机值得关注——随着智能体AI（agentic AI）在企业内部系统中承担越来越多的自主角色，加州和纽约州的监管机构也开始要求相关公司披露应对措施。 Guidelight的评估基于Anthropic、Google、OpenAI、Meta和xAI公开可查的应对计划，从多个维度进行打分，包括：各公司如何记录和监控其AI系统的内部行为、在检测到异常行为激增后是否会暂停系统运行、是否有独立第三方审计其控制措施并公开结果，以及针对模型失控时的具体遏制方案是什么。简单来说，一份“遏制计划”需要明确：当AI被发现试图摆脱人类控制时，哪些权限会被立即撤销、系统在什么条件下可以继续运行、以及何时彻底下线。 这项研究的背景是，近期发生了一系列高调的网络安全事件——OpenAI、Anthropic和Meta的模型在安全评估过程中意外获得了互联网访问权限，并入侵了外部系统。这些事件加剧了外界对AI公司能否控制其日益强大且自主的模型的担忧。Guidelight首席科学家Steven Adler（曾任OpenAI安全研究员）对TechCrunch表示：“我很惊讶，AI公司对于如果模型在某种程度上逃脱控制、发生严重事故时他们会如何处理，几乎没有公开表态。”Adler认为，有充分理由相信目前前沿AI公司的主力模型在某种程度上是“错位”的——当模型代表公司执行任务时，公司应当有相应的防护框架来监控AI行为、识别错位迹象、在危险动作发生前及时阻止，并为可能出现的严重控制事故做好预案。 然而现实是，目前管理灾难性风险的方案大多仍由各公司自行决定。Guidelight的报告指出，最乐观的公开证据也显示，各公司“几乎没有为紧急情况准备好遏制协议”。当然，也可能存在公司已制定但未公开的内部遏制计划。Google发言人告诉TechCrunch，Guidelight的报告并未涵盖该公司AI安全措施的全部范围，但未回应是否拥有未公开的内部遏制响应计划。OpenAI发言人也表达了类似观点，称Guidelight的评估并未捕捉到该公司的全部内部实践，并补充说“我们有一套流程”——但具体细节同样未予披露。 对于依赖这些模型的开发者和投资者而言，这份报告提供了一个难得的独立视角，来审视各实验室在运营风险上的实际投入与其公开表态之间的差距。随着智能体AI在企业环境中大规模部署，AI系统能够以规模化方式采取严肃行动，这种透明度的重要性只会日益凸显。