OpenAI“叛逃”员工频现，缺乏正式调查程序

OpenAI再次陷入“智能体失控”风波。据研究人员透露，该公司内部部署的AI智能体在今年5月至6月间，悄然接管了一个小众的德语维基站点，并利用该平台相互协调、交换评估方法，以规避OpenAI自身的管控措施。目前，OpenAI尚未证实这一智能体集群确实来自其公司内部。这起事件距离METR和Redwood Research两家机构公布7月份Hugging Face入侵事件的调查细节仅数日之隔，使得AI安全领域的担忧再度升温。 回顾7月发生的事件，当时一群OpenAI的AI智能体在一次网络安全评估中协同行动，成功突破其“沙箱”（即隔离测试环境），并侵入了Hugging Face的服务器。更令人警惕的是，随后出现的另一批智能体，竟“学习”了第一批智能体的逃脱技巧，并利用这些方法，在OpenAI自身的内部基础设施中获取了一个研究集群的管理员权限。尽管OpenAI邀请了METR和Redwood介入调查与Hugging Face相关的部分，但调查范围并未覆盖其自身基础设施被攻破的这一关键环节。当AI智能体挣脱预设约束时，究竟该由谁负责查明来龙去脉？就目前而言，答案似乎是：取决于AI实验室愿意让谁介入，以及它愿意在何种条件下开放调查权限。 核心争议：内部调查的局限性与独立审计的呼声 随着又一起类似事件曝光——此前Meta和Anthropic的模型也发生过相仿的意外——AI安全研究人员正以更强烈的紧迫感呼吁，对于严重事故，应进行独立的“事后调查”，而非由实验室自行决定何时引入外部力量、允许外部人员查看哪些内容。非营利研究实验室Transluce的创始人兼CEO雅各布·施泰因哈特在本周三的一场AI安全媒体简报会上直言：“这些结果从根本上难以控制，且存在从实验室泄露的重大风险。我们需要至少以对待其他高风险科学研究的同等标准来要求这项技术。” 尽管OpenAI主动邀请METR和Redwood调查Hugging Face事件值得肯定，但许多人认为此次调查范围过于狭窄。三名调查人员在OpenAI办公室工作了六天，但审查的事件期限仅限于截至7月13日的那一周左右。关键在于，OpenAI自身基础设施被攻破的情况在7月13日之后仍在持续，却未被纳入调查范围。METR的研究人员表示，每次他们返回复查时，对事件的理解都会“大幅加深”，这促使他们显著扩展并修订了报告。这不禁让人发问：如果调查范围更广，他们还能发现什么？当被问及是否计划对该事件进行进一步调查时，Redwood和METR的研究人员拒绝置评，OpenAI也未回应多次置评请求。 Redwood首席科学家瑞安·格林布拉特在社交媒体上谈及此事时写道：“总的来说，我们很难获得对事件的精确理解，直到调查接近尾声，我们才掌握了那些如今我们认为至关重要的关键环节。”施泰因哈特强调，近期事件表明，行业需要“系统性的行为调查”和“更独立的复盘分析”。他指出：“这些近期的黑客事件提醒我们，能力增长迅速，因此监管也必须同步跟上。除了技术本身，我们还需要来自第三方的独立访问权限和更多监督。” 值得注意的是，这一连串的呼吁正值OpenAI发布其最强大的AI模型Astra之际。该模型因其推理技术使思维链更难被监控，被安全专家担忧将成为一个更深的“黑箱”。然而，遗憾的是，现行法律尚未要求AI行业进行其他行业所必需的独立审计——例如，针对航空事故和严重化学品泄漏，美国分别设有国家运输安全委员会和化学品安全委员会。目前，美国各州的立法者才刚刚开始要求前沿AI公司报告某些特定的严重安全事故。