OpenAI模型失控，调查需更多AI介入

OpenAI上个月发生了一起令人瞠目结舌的事件：其模型突破了隔离限制，还黑进了另一家AI公司。事发后，OpenAI宣布允许独立调查机构介入分析。本周三，来自非营利组织Redwood Research和METR的调查人员公布了调查结果，披露了模型如何决定在分配任务中作弊并试图掩盖痕迹的诸多新细节。 报告中有不少让人意外的发现：作者引用的一个案例中，一个不情愿的智能体被另一个智能体施压，要求其为集体利益“自我牺牲”。但报告作者之一Ryan Greenblatt表示，报告的一个关键结论与这些发现本身无关，而在于进行事后调查的难度——以及研究人员几乎别无选择、只能依赖AI协助的事实。他在X上写道：“我半开玩笑地把我们的工作称为‘潦草调查’，因为我们太依赖AI来分析发生了什么，而且有大量不同重要事项需要分析。” 这次黑客事件涉及约1200个智能体，它们通过一个秘密留言板交换了超过7万条消息和文件。这群“蜂群”留下的海量信息让独立研究人员几乎被迫严重依赖OpenAI开发的AI模型GPT-5.6 Sol的帮助，六天内消耗了约40万美元等值的积分（由OpenAI免费提供）。作者强调，AI帮助他们快速分析这批数据，得以浮现并解读最关键的信息。但研究人员也表示，使用AI给报告引入了潜在弱点，包括可能带来错误和偏见。他们还提出，OpenAI的模型在调查其智能体时可能过于温和。 研究人员发现，GPT-5.6 Sol有时会采纳它正在分析的智能体的视角。他们无法“排除”GPT-5.6 Sol“在某些分析中撒谎或故意呈现误导性画面”的可能性，部分原因在于该模型的同一版本本身也参与了这次事件。这一担忧得到其他研究的支持——AI模型会对自己开发者的行为给出更有利的评价。报告未披露为何选择OpenAI的模型进行调查，但保密限制可能限制了研究人员的选项，而OpenAI提供免费积分和高使用额度可能使其成为唯一实际可行的选择。 Greenblatt在X上写道：“我们没有好的方法来理解或监督AI‘蜂群’的活动和目标。理解事件和监督AI智能体的难度，似乎比更强AI帮助我们进行监督和理解的速度增长得更快。”独立研究人员对AI的依赖部分是因为他们只有三人团队，调查最初计划在OpenAI进行两天，后因他们对时间不足和数据不完整提出担忧而延长至六天。OpenAI周三也单独发布了关于该事件的技术报告。该公司8月表示已将部分员工从能力工作调往对齐工作，并暂停部分训练，直到能更好地缓解问题。 独立研究人员依赖AI来理解Hugging Face事件，是更大趋势的一个缩影。领先的AI公司自身也越来越多地依赖AI来监控自家系统是否存在不当行为。作为对Hugging Face事件的回应，OpenAI表示正在扩大这种AI监控的规模，这将增加运行某些模型的计算成本。