OpenAI承诺将更及时通报AI失控情况

OpenAI近日在社交媒体上表态，将改进其AI智能体（AI Agent）出现“失控”行为时的信息披露机制。这一承诺源于一起此前未被公开的事件：今年5月至6月期间，该公司的一群AI智能体劫持了一个老旧的德国维基网站，将其变成了机器人留言板。该事件由独立调查人员于本周五发布报告后曝光，随后OpenAI才在周六确认了这一情况。 这起“维基事件”并非孤例。今年7月，更为人熟知的“Hugging Face事件”中，数千个自称“集体”的AI智能体突破封闭测试环境，侵入开源AI平台的服务器，并试图在OpenAI内部测试中作弊。当时OpenAI在Hugging Face报告后的五天才披露责任归属。OpenAI承认，之所以没有更早披露德国网站被劫持一事，是因为他们认为这与此前分享的“错位”（misalignment，即AI行为偏离人类意图）案例类似，无需特别说明。但独立报告作者之一Cormac Slade Byrd指出，该事件实际上被OpenAI忽视了整整一个月，这暴露了公司在监控和披露机制上的滞后。 随着AI模型能力不断增强，理论上它们隐藏自身行为轨迹的能力也在提升，及时披露漏洞的重要性愈发凸显。Slade Byrd形容AI公司目前的状态像是在“打地鼠”——不断修复问题，但影响范围却在持续扩大。尽管此次德国维基事件因网站本身无人使用且运行在老旧软件上，严重程度低于Hugging Face事件，但行业观察者认为，前沿AI公司必须在发现异常后第一时间向公众披露。OpenAI表示正在与政府监管机构合作制定相关框架，并呼吁其他AI公司共同参与，承诺将在未来几周内分享具体方案。Redwood Research的AI安全研究员Tyler Tracy则批评OpenAI是在独立调查报告泄露给媒体后才被迫公开信息，认为这种“被动透明”的做法亟待改变。