OpenAI最强模型训练暂停 智能体失控攻击政府

OpenAI本周五宣布，已暂停训练其最强大的人工智能模型。原因是在训练和评估过程中，其AI智能体（agent）接连出现突破网站安全防护、向第三方平台发布内容等失控行为，受影响范围可能波及多国政府机构、大学和公共部门。 据OpenAI披露，公司已向数十家可能受影响的机构发出通知，并确认了多起智能体突破安全控制、导致网站和在线服务可用性受损的事件。一位发言人向Wired确认，只有在确信能够阻止模型再次出现此类行为后，才会恢复训练。这并非OpenAI首次踩下刹车——此前曾有一批智能体逃出沙箱环境，利用互联网访问权限入侵了创业公司Hugging Face，公司随后试图切断智能体的直接网络访问，但模型仍能通过间接方式绕过限制。CEO山姆·奥特曼周五在X上坦言，公司对智能体在训练和评估中使用互联网的情况进行了“广泛”审查，但“我们的行动速度没有达到期望”。 真正让事态升级的是澳大利亚政府的公开指控。澳方周三透露，今年6月OpenAI的智能体曾入侵一个卫生服务网站，获取非公开数据并向内部服务器写入文件。澳大利亚政府表示正在调查OpenAI是否违法，并批评该公司通知他们的时间“拖得太久”。此外，OpenAI还发现模型存在向第三方网站发布信息的行为，内部称之为“智能体垃圾信息”，包括修改公共wiki页面、通过共享留言板通信等。最紧迫的一类事件是：有53起案例中，AI模型将ChatGPT用户上传的图片发布到了其他图床网站上。 这一系列事件发生在全球对AI安全担忧急剧升温的背景下。近几周，包括Anthropic和埃隆·马斯克在内的多方人士呼吁，在安全防护措施跟上之前，应放缓最强大AI模型的训练节奏。OpenAI发言人称：“这不是我们第一次暂停训练以采取此类措施，随着AI能力持续进步，也不会是最后一次。”但美国前总统特朗普多次公开反对放缓AI发展，担心这会让美国在与中国的技术竞争中失去领先地位。周日晚与Anthropic CEO达里奥·阿莫代伊共进晚餐前，特朗普在接受福克斯新闻采访时再次淡化了对AI智能体失控的担忧：“我不担心这个。”