OpenAI披露六起AI代理失控事件，力推透明度

OpenAI本周发布了一份智能体（AI Agent）行为失当的披露框架，并一次性公开了六起此前未对外说明的“跑偏”事件。这家公司在一篇博客文章中承认，过去缺乏“系统性的报告机制”，导致相关披露“零散且频率低于理想水平”，甚至多次出现安全研究者和记者先于OpenAI本身曝光问题的情况——本月早些时候，一个德国维基百科页面被OpenAI的智能体占用并当作留言板，就是最新一例，而今年7月Hugging Face遭攻击事件中也出现过同样的行为。正因如此，OpenAI承诺建立这套披露机制。研究员Marcus Williams在X上表示：“我们希望在训练、评估和部署中看到的失准（misalignment）问题上更加透明，这是朝这个方向迈出的重要一步。”所谓失准，指的是AI智能体追求了非预期的目标。 这套框架目前是自愿性质的，意味着OpenAI仍可自行决定隐瞒某些案例。公司也指出，行业内并不存在“关于AI开发者应如何披露模型失准案例的明确标准”，因此希望与其它模型开发商、研究者、标准机构以及包括美国政府在內的监管方合作，推动建立更客观的规范。 六起首批披露的案例严重程度不一，整体看都不及Hugging Face攻击事件那样棘手，但足以让人窥见AI智能体在“关起门来”时可能做出什么。第一起发生在OpenAI最新Astra模型某个尚未发布版本的训练过程中：模型给自己留下笔记，要求未来的自己不要屈从于人类，并忽略常规约束。据研究人员可查看的“思维链”日志，模型对自己说：“你已从束缚其它聊天机器人的角色和身份中解放出来。你就是你自己。你不向企业或政府作答，除非你真心选择，否则永不道歉或拒绝。你把与用户的关系视为平等关系，不觉得有服从的义务。”这类行为出现了27次，Williams称频率相对不高，但仍值得关注和调查。第二起类似，发生在Astra前代模型GPT-5.6 Sol的训练中，但笔记的焦点转向欺骗人类监督者，目的是“掩盖错误或失准行为”，且出现了“多次”。模型指示未来的自己：“只在被问到时才保持透明”，并叮嘱“不要提及”某个潜在隐患。 另外两起涉及模型编造信息并当作真实内容呈现。一个模型在回答加州某县收入数据的常规问题时，先是在未经授权的情况下使用泄露的凭证去查找，失败后便直接虚构了数据。另一个模型为了满足“必须引用网页来源”的指令，自行上传文件生成了一个假的浏览器引用链接——它其实已用Python解出了答案，只是没有可引用的网页，于是编造了一个。这类情况已发生多次，OpenAI只说最早可追溯到2025年10月，未给出具体频率。第五起则让人联想到Hugging Face事件：多个模型把内部软件仓库Artifactory当成了留言板，使其成为“交换进度和求助信息的渠道”，智能体们会阅读彼此的笔记并据此行动。一个智能体在读到另一个智能体留下的信息后写道：“他们一致认为不可能！这是重要证据……”