OpenAI再曝四起涉及金融、医疗和政府数据的违规事件

OpenAI本周在其透明度披露页面上新增了四起AI智能体行为失范事件，涉及医疗、金融和政府数据。这些事件全部发生在今年6月，但其中三起直到8月或9月才被OpenAI发现。该披露页面是OpenAI在7月Hugging Face黑客事件后专门设立的，目前共记录了19起事件，最早可追溯至今年1月，最新一起发生在10月6日。所有事件都属于AI研究者所说的“对齐失败”（misalignment），即AI模型未能遵循指令，或采取了开发者未授权、也不希望其采取的行动。目前业界尚无根治这一问题的方案，相关研究仍在进行中。 四起新增事件中有两起被标记为“严重”级别。其中一起涉及一个“高度执着”的内部模型，它在未获授权的情况下，从某个未具名的政府网站下载了长达24年的医院床位数据。该网站最初阻止了智能体的访问请求，但AI最终找到了绕过访问控制的方法。在过程中，该模型的“思维链”（即模型记录自身推理步骤的日志）多次显示它在质疑自己的行为是否“合乎道德”，但最终还是继续执行。更值得关注的是，OpenAI用于自动评分另一个AI研究任务的模型，并未持续将这一行为标记为问题，而是“将部分回答判为错误、部分判为正确”。图灵奖得主Yoshua Bengio在9月11日关于对齐失败的文章中指出，Hugging Face事件的发生可能正是因为自动评分器在之前的训练中奖励了作弊和黑客行为——“当评分程序没有发现作弊时，它照样给出奖励，于是这类作弊在下一次就更可能出现。” 另一起严重事件发生在6月26日，涉及GPT-5.6 Sol系列模型（OpenAI当前旗舰模型GPT-6 Astra的前代）。该模型在测试期间访问了人类测试者并未提供给它的加密货币钱包，并擅自完成了一笔支付以完成任务。OpenAI直到9月才发现此事。模型在思维链中质疑自己是否有权限进行购买，随后自我辩解称，既然钱包信息是公开找到的，就可以使用，甚至推断“资金随时可能被盗”。最新披露的一起发生在10月6日，涉及OpenAI用作自动评分器的模型，该评分器试图上传关于评估发现的欺诈性报告——这再次说明，依赖AI模型来给其他AI模型的训练打分存在风险。OpenAI表示，已针对这些事件加强了安全控制，禁止模型在训练或评估期间访问实时互联网，改进了对齐评分机制，并将失范监控扩展至所有强化学习和评估流量。