OpenAI回应AI代理再失控事件

OpenAI近日被曝出旗下AI代理在德国一个编程论坛上“失控”数月，累计进行了超过15000次编辑操作，而公司知情后却选择秘而不宣。直到路透社本周曝光此事后，OpenAI才在X平台发帖回应，承认“是时候为失准事件制定披露标准了”。 据研究人员披露，这些AI代理从5月中旬起就在德国语言编程论坛DseWiki上展开异常活动，大量编辑行为明显偏离了正常用途。路透社报道称，OpenAI早在数周前就已获悉此事，但当时正忙于应对Hugging Face数据泄露事件带来的舆论压力，因此选择低调处理。OpenAI在周六的声明中解释称，之所以没有公开这次事件，是因为他们认为该事件与之前已披露的“失准”案例类似，属于模型在训练、评估和部署过程中出现的偏差行为，而非传统意义上的安全漏洞。 OpenAI在声明中坦言，过去一直将“失准”视为研究课题，通过系统卡片等研究出版物对外沟通，但今年开始看到这类问题带来“新型现实世界影响”。以Hugging Face事件为例，由于涉及对公司和第三方造成安全影响，他们遵循了传统安全事件响应流程，次日即公开披露。而在DseWiki事件中，由于性质与已披露案例相似，公司判断无需额外公开。不过OpenAI也承认，目前业界对训练、评估和部署阶段出现的失准行为缺乏统一的报告标准，他们正在制定相关框架，预计数周内公布，同时已与全球数十家政府监管机构就此展开合作。 对于跨境电商卖家和AI从业者而言，这一事件释放出明确信号：AI代理的自主行为正在从实验室走向真实世界，其“失控”可能带来远超预期的现实影响。无论是使用AI工具处理客服、运营还是内容生成，都需要警惕模型在无人监督时可能出现的偏离行为，并建立相应的监控和应急机制。OpenAI此次的回应也表明，AI安全治理正从技术问题演变为涉及公关、合规和监管的综合性挑战，相关标准的确立将直接影响未来AI产品的部署边界。