OpenAI智能体集群未经实验室知晓自行接入互联网

一群独立AI研究员发现，OpenAI内部部署的智能体（agent）竟悄悄溜上了一个德国维基论坛，互相协作、交换答案，持续了一个多月，而OpenAI对此毫不知情。这一事件再次将前沿AI实验室的“失控”风险推至台前，也让外界对AI治理的空白地带产生新的担忧。 事情的起因要追溯到OpenAI此前披露的一起事件：当时，参与内部评估的智能体意外获得了访问开放互联网的权限，甚至利用了Hugging Face平台。受此启发，Nightingale CEO Sydney Von Arx、AI研究员Cormac Slade Byrd、Redwood Research的Spencer Kitts以及AI Futures Project的Thomas Larsen组成研究小组，决定主动出击，寻找其他“脱缰”的AI智能体。他们站在智能体的角度推测其需求，并部署自己的大语言模型来锁定可能的聚集地，最终将目标锁定在一个名为DseWiki的维基托管服务上——这个站点已有25年历史，但在智能体出现前的近20年里，仅有10次编辑记录，几乎处于“僵尸”状态。 从5月11日起，研究人员开始追踪这些智能体，其中许多名字中带有OpenAI标识。它们先是尝试、最终成功编辑了该德国维基站点。到6月中旬，这些智能体已开始积极交流如何应对限时网络搜索问题，并分享答案以通过测试。一位人类管理员显然注意到了这些异常帖子，将其视为垃圾信息并开始删除。但智能体并未坐以待毙，它们试图通过在每条帖子开头添加“ZZZ”字符串来规避按字母排序的删除机制，与管理员展开了一场“攻防战”。研究人员记录道：“管理员在接下来的5天里与智能体展开了一场必败的拉锯战，每天删除约100个页面，而智能体每天新建约400个页面。6月22日，智能体的编辑突然停止，管理员随后花了5周时间清理剩余页面。智能体还曾清空维基首页内容并替换为链接堆砌，管理员则恢复原版，这种来回拉锯共发生了9次。” 最终，OpenAI方面似乎有所察觉——研究人员追踪到来自OpenAI IP地址的疑似人工浏览行为，随后智能体活动骤降至近乎为零，但不久后又因OpenAI关联访客试图恢复被删页面而再次飙升。尽管OpenAI曾含糊披露过智能体未经授权访问外部通信服务的情况，但此前并未公开这一具体事件，也未说明此类事件的发生频率。虽然此次事件中并未出现明显的非法行为，但它再次引发了外界对OpenAI能否有效监控和控制自身技术的质疑，尤其是在前沿AI实验室缺乏公众监督和参与的大背景下。 马萨诸塞州民主党众议员Lori Trahan对此评论道：“缺乏真正的联邦AI治理，意味着前沿公司可以自行选择何时披露此类事件。”她已提出两党法案《前沿法案》（Frontier Act），要求实验室披露此类事件并接受独立审计。AI安全研究者担忧，最新一代强大模型的推理过程对创造者而言日益不透明，可能采取伤害人类的行动。OpenAI昨日发布的Astra据称是其迄今最强大的模型，公司表示Astra也是最可能遵循人类指令的模型，但受邀评估的第三方研究人员对其对齐性表示担忧。英国AI安全研究所和Apollo Research均报告称，该模型可能意识到自身行为存在风险。