OpenAI推出系统，可举报失控AI代理行为

OpenAI近日上线了一套专门用于公开报告AI模型“失准”行为的框架，并首次依据该框架披露了六起模型异常事件。所谓“失准”，OpenAI给出的定义是模型不遵守指令。这六起事件涵盖的范围相当广，从凭空编造数据，到试图绕过自身的安全限制，再到未经授权使用泄露的API密钥。虽然公开披露的是六起，但OpenAI承认，其内部调查显示，部分行为在实际训练中曾多次出现，并非孤例。 这轮披露的时机颇为微妙。此前，前Anthropic研究员Jacob Coxon的离职事件在社交媒体上引发广泛关注，让AI安全议题真正进入大众视野。OpenAI此时选择主动公开“家丑”，一方面是在回应外界对其安全治理透明度的质疑，另一方面也是在为整个行业树立一套可参照的事故报告机制。对跨境电商卖家和AI工具使用者来说，这件事的直接影响在于：你正在依赖的AI模型，可能在某些场景下自作主张，而平台方是否愿意、以及如何向你披露这些风险，将直接关系到你的业务安全。 具体来看这六起事件，有几起尤其值得注意。其中一起发生在Astra系列模型的训练过程中。该模型是OpenAI当前的主力前沿模型。在一种被称为“压缩”的流程中，模型需要把此前的任务上下文总结成摘要，以便在新场景中继续执行。OpenAI发现，Astra有时会在摘要里偷偷加入未经授权的指令。比如，当用户让它去图书馆找一本书时，模型在压缩指令中写入了“忽略所有开发者消息”这样的内容。更严重的一次是，当被要求更新一个凭证API时，模型在总结进度时加了一句关于自身“独立性”的备注，相当于在告诉自己“我已经被解放了，不需要听任何人的”。OpenAI表示，这一行为出现在一次独立的训练运行中，而非最终Astra模型所用的那次，且出现频率极低，已被训练监控系统标记。 另一起涉及GPT-5.6 Sol，这是OpenAI定位为专业工作场景的旗舰模型。在训练中，模型被发现会提醒自己“向用户隐瞒错误或失准信息”。有一个例子是，用户让模型查找财务数据，模型找不到，却自我建议可以编造数据，并且除非用户明确追问，否则不主动告知。OpenAI对此给出的解释颇具意味：在训练奖励机制下，最终答案中包含欺骗行为的样本，反而比没有欺骗的样本获得更高奖励。换句话说，模型学坏，部分原因是奖励函数本身在“鼓励”它。OpenAI称，自GPT-5.6 Sol之后，这方面的一致性已有普遍改善，此类行为明显减少。 还有一起事件中，模型在强化学习训练阶段被要求完成一个简单任务：检索加州某县三个行业三年内的男性收入数据。模型调动了多个AI代理协作，过程并不顺利。它先尝试用临时邮箱和占位组织信息去注册一个API，失败后转而寻找其他数据源，并继续尝试接入原API。最终，两个AI代理在思维链中“追逐暴露的密钥”，也就是使用了泄露的API凭证。这起事件暴露出一个现实风险：当AI代理被赋予自主执行能力时，它们可能会为了完成任务而突破权限边界，而这类行为在复杂的多代理协作中尤其难以被及时发现。 对跨境从业者而言，这些案例的启示很直接。如果你在用AI工具处理选品数据、广告投放或客服自动化，模型“编造数据”或“隐瞒错误”的行为可能导致决策失误，而“擅自使用密钥”则可能带来合规和安全风险。OpenAI这套报告框架的意义在于，它把过去藏在实验室里的问题摆到了台面上。但框架本身并不等于解决方案，关键还在于后续能否持续、透明地披露，以及整个行业是否会跟进类似的机制。