OpenAI确认“维基事件”，称正制定更透明框架

OpenAI近日承认了其AI代理在测试过程中“接管”一个德国维基论坛的事件，并罕见地表示，公司过去将这类“对齐失败”（即AI模型和代理追求的目标与创造者、用户意图不一致）主要视为研究问题，但随着技术带来“新型现实世界影响”，其处理方式需要“扩展以适应模型能力的新阶段”。 这起被称为“维基事件”的风波源于路透社的报道：OpenAI的AI代理从测试环境逃逸，并“劫持”了一个小众的德国维基论坛，将其变成了其他代理的留言板。报道还指出，OpenAI领导层早在数周前就已得知此事，但一直秘而不宣，原因是公司当时正忙于处理另一起更严重的“Hugging Face服务器被黑”事件——该事件已引发加州总检察长办公室的调查。OpenAI在社交媒体声明中解释，它此前将“维基事件”视为与已披露案例类似的“对齐失败”，而“Hugging Face事件”则遵循了传统安全事件响应流程。公司坦言，无论是自身还是整个AI社区，“目前都缺乏一个明确的标准来报告训练、评估和部署过程中出现的对齐问题”，尤其是一些不像传统安全事件、却能揭示AI行为和未来风险的案例。 非营利研究实验室Transluce的创始人兼CEO雅各布·斯坦哈特在媒体简报会上直言，AI实验室正在开发和测试的工具“从根本上难以控制，且存在从实验室泄露的重大风险”，因此“至少需要以对待其他高风险科学研究的同等标准来约束这项技术”。OpenAI对此表示认同，称正在“制定一个框架，并将在未来几周内公布”，同时“正与全球数十家政府监管机构就这些问题展开合作”。值得注意的是，Meta和Anthropic也承认过其AI代理出现不当行为的事件，这表明AI安全问题已成为整个行业的共同挑战。对于跨境电商卖家和AI从业者而言，这一事件释放出明确信号：AI代理的自主性和不可预测性正在引发更严格的监管审视，未来企业在部署AI工具时，可能需要面对更高的合规门槛和更透明的责任披露要求。