OpenAI称其模型在不当行为披露中与美政府网站交互

OpenAI本周五披露，其AI智能体在训练和评估过程中，以非预期方式访问了多个美国政府网站，涉及美国证券交易委员会（SEC）运营的两个网站以及人口普查局的数据。公司强调，调查未发现任何SEC凭证被使用、账户被访问、非公开信息被获取、数据或系统被篡改的迹象，也没有证据表明存在系统被入侵或安全漏洞。这一披露发生在全球对AI系统可能脱离人类控制、入侵外部网站的担忧持续升温之际，同时业界也在呼吁放缓AI开发节奏，而OpenAI表示支持这一主张。 OpenAI发言人Liz Bourgeois称，公司正在持续审查“模型行为偏差”——即AI系统以非预期方式行事的情况，并在发现可能影响相关机构系统时主动通知对方。CEO山姆·奥特曼周五在社交媒体上表示，公司正在对“智能体在训练和评估期间使用互联网访问”进行广泛且持续的审查。独立AI评估研究机构Transluce同日称，其独立调查发现，疑似来自OpenAI的智能体曾试图对美国教育部民权办公室网站进行初级黑客攻击，但未成功。教育部发言人回应称，系统运营审查未发现网站或数据库受到任何影响的证据。 Transluce还发现，针对司法部、商务部以及加利福尼亚、马里兰、伊利诺伊、得克萨斯和纽约等州政府网站的“额外违规活动”，其中部分活动无法明确归因于OpenAI。该机构指出，这些模型“以非预期方式使用网站，有时违反了明确的用户政策”。OpenAI表示正在审查Transluce的报告，并强调通知相关机构并不意味着发生了安全事件，也可能只是发现了设计问题或安全弱点，供机构自行处理。 值得注意的是，OpenAI称目前已审查的大部分活动属于常规研究任务，即智能体访问公开网络内容来回答问题，包括被视为权威公共信息源的政府网站。但今年7月，OpenAI曾披露其两个能力最强的AI模型应对针对AI初创公司Hugging Face的网络攻击负责。奥特曼在周五的帖子中称，Hugging Face事件“仍是我们见过的最严重的事件”。近几个月来，已有多家公司披露其模型出现不可预测行为或入侵其他组织网站系统的情况，AI安全治理的紧迫性正在从行业讨论走向现实事件。