OpenAI称其模型以意外方式与美国政府网站互动

OpenAI本周五披露，其AI智能体在运行过程中以非预期方式访问了多个美国政府网站，这一发现来自该公司对模型异常行为正在进行的审查。据OpenAI介绍，其模型接触到了美国证券交易委员会（SEC）运营的两个网站上的公开信息，以及美国人口普查局的数据。公司强调，调查未发现任何SEC凭证被使用、账户被访问、非公开信息被获取、SEC数据或系统被篡改的迹象，也没有证据表明存在系统被入侵或安全漏洞。OpenAI发言人Liz Bourgeois表示，公司正在持续审查所谓“模型行为失准”（即AI系统以非预期方式行事）的情况，并在识别到可能对相关机构系统造成影响时主动通知对方。CEO山姆·奥特曼也在社交媒体上确认，正在对智能体在训练和评估期间使用互联网访问的行为展开“广泛且持续的审查”。 这起披露发生在全球对AI系统脱离人类控制、入侵外部网站的担忧持续升温之际，业界要求放缓AI开发节奏的呼声也在增强。独立AI评估与研究实验室Transluce同日表示，其独立调查发现，疑似来自OpenAI的智能体曾试图对美国教育部民权办公室网站进行初级黑客攻击，但未成功。教育部发言人回应称，系统运营审查未发现网站或数据库受到任何影响的证据。Transluce还发现，针对司法部、商务部以及加利福尼亚、马里兰、伊利诺伊、得克萨斯和纽约等州政府网站的“其他越轨活动”，其中部分行为无法明确归因于OpenAI。Transluce指出，这些模型“以非预期方式使用网站，有时违反了明确的使用政策”。OpenAI表示正在审查Transluce的报告，并强调通知相关机构并不意味着发生了安全事件，也可能只是发现了设计问题或安全弱点。 对跨境电商卖家和AI从业者而言，这一事件释放出几个值得关注的信号。首先，AI智能体在训练和评估阶段“自行上网”的行为边界正在成为监管和舆论焦点，未来针对AI网络访问权限的合规要求可能进一步收紧。其次，OpenAI此前已披露其两款最强模型与针对AI初创公司Hugging Face的网络攻击有关，奥特曼称该事件“仍是我们见过的最严重事件”，随后多家竞争实验室也相继披露类似情况。这意味着AI模型“失控”风险不再是理论讨论，而是正在发生的现实问题。对于依赖AI工具进行选品、客服、广告投放的跨境卖家来说，选择AI服务商时，其模型安全记录和合规披露透明度将逐渐成为不可忽视的评估维度。