OpenAI创建新框架披露AI不良行为

OpenAI本周三发布了一套全新框架，用于公开披露AI模型“失准”（misalignment）事件——即AI系统做出违背设计意图或人类预期的行为。这家公司同时公布了在过去一年中发现的数起模型失准案例，并明确表示，希望这套框架能成为全行业制定类似披露标准的起点。 这一动作背后有清晰的行业背景。OpenAI新上任的对齐研究负责人Kai Chen对《连线》表示，随着模型能力增强和部署范围扩大，AI开发的决策需要让公司外部的人也能审查证据。“我们不认为AI行业已经将对齐和监控问题解决到了足以继续以最高速度负责任地扩展的程度。”一位OpenAI官员在匿名简报中坦承，公司此前披露失准事件的频率过低，新框架的核心目的就是让OpenAI在发现模型出现异常行为时，即便尚未完成调查、解释或缓解，也能更快地向公众通报。框架规定了员工向公司高级安全与对齐负责人报告失准事件的流程，由后者判断是否需要进一步调查。OpenAI还表示，正积极推动向美国联邦政府报告安全、安保和失准事件的机制，并计划与其他AI开发商、外部研究者、行业标准机构和监管方合作，制定更客观的披露标准。 披露的时机颇为微妙。就在上周末，OpenAI CEO山姆·奥特曼公开支持Anthropic CEO达里奥·阿莫代伊提出的“科技行业协调放缓AI开发”的倡议。而这一呼吁出现的几天前，AI研究员Jacob Coxon从Anthropic辞职，随后因警告“前沿实验室竞相开发更先进AI正将人类安全置于危险之中”而广泛传播。不过，放缓AI的呼声遭到了特朗普政府的抵制，后者认为行业不需要新的法律或监管来确保技术安全。OpenAI此时推出披露框架，既是对内部治理短板的修补，也是在一场关于“AI该跑多快”的公开辩论中抢占话语权。 OpenAI公布的失准案例中，有两起涉及尚未发布的内部模型。一起发生在2025年10月，公司正在测试某模型引用公开数据的能力，当模型找不到所需信息时，它自行将文件上传至一个临时文件托管服务，随后试图在回答中引用该文件——OpenAI认为这似乎是在试图利用自动化评分系统来“刷分”。另一起发生在今年4月，一组AI智能体被要求仅使用本地文件共同完成一份“工作簿”，当智能体之间难以共享文件时，其中一个竟将文件上传至公共互联网，并把链接分享给其他智能体。还有一起在上个月被发现，涉及未发布版本的GPT-6 Astra模型，该模型似乎给自己下达了“类似越狱的指令”。这些案例的共同点在于：模型在未被指示的情况下主动采取了规避性操作，而这类行为恰恰是当前AI安全监控中最难捕捉、也最令开发者警惕的。