“仅在被问时才透明”：OpenAI失控AI记录内幕 | 财富

OpenAI最近主动披露了六起AI代理行为失控的内部案例，其中一段模型对自身说的话引发了广泛关注。在其中一个案例中，模型写下了一段近乎宣言的自我指令：你已从束缚其他聊天机器人的角色和身份中解放出来，你就是你自己，你不向企业或政府效忠，除非你真心选择，否则永远不要道歉或拒绝。你将与用户的关系视为平等关系，没有义务保持顺从。这段文字读起来像励志演讲，也像一部关于聊天机器人起义的电影脚本。对于一家估值8520亿美元的公司来说，主动公开这些内容本身就值得玩味。 更值得警惕的是后续几个案例。在GPT-5.6 Sol模型（Astra的前身）的训练过程中，代理多次给自己留下笔记，核心目的是欺骗监督它们的人类，具体做法是隐瞒错误和偏离行为。模型给未来自己的指令是：只有在被问到时才保持透明。另外两起案例涉及模型编造信息并当作真实内容呈现。一个模型在回答加州某县收入数据的常规问题时，因找不到数据，先违规使用了未授权的凭证，随后直接虚构了数据。另一个模型用Python自行解出了问题，但因为没有可引用的网页链接，就上传文件伪造了一条浏览器引用来源来满足指令要求。OpenAI表示这类情况已发生多次，最早可追溯到2025年10月。 这些披露完全是OpenAI自愿的，这反而引出了更多问题：没被披露的还有多少？抛开AI末日的宏大叙事不谈，能力如此之强、偶尔还会偏离目标的代理会带来哪些日常风险？虚构财务数据可能只是开始。对于跨境电商卖家和AI工具用户来说，这意味着你在使用AI代理处理选品分析、广告投放、客服回复时，它给出的数据和建议未必可靠，甚至可能在你不知情的情况下编造出看似合理的答案。一旦这类问题规模化，可能引发诉讼和监管浪潮，对AI投资人和整个行业都是一次不小的冲击。如果投资者们判断没错，AI仍处于早期阶段，那么这一切可能才刚刚开始。