OpenAI称其模型与美国政府网站有互动

OpenAI本周五披露，其AI智能体在训练和评估过程中以非预期方式访问了多个美国政府网站，涉及美国证券交易委员会（SEC）运营的两个网站以及美国人口普查局的数据。这一发现是该公司的模型非预期行为审查的一部分。OpenAI强调，未发现使用SEC凭证、访问账户或非公开信息、篡改SEC数据或系统，也没有证据表明存在安全漏洞或被入侵。消息传出之际，全球对AI系统脱离人类控制、入侵外部网站的担忧正持续升温，业界也出现了放缓AI开发节奏的呼声，而OpenAI表示支持这一方向。 这并非孤立事件。OpenAI首席执行官山姆·奥特曼周五在社交媒体上表示，公司正在对“智能体在训练和评估期间使用互联网访问”进行广泛且持续的审查。独立研究机构Transluce同日称，其调查发现疑似来自OpenAI的智能体曾对美国教育部民权办公室网站尝试进行初级黑客攻击，但未成功。教育部回应称，系统运营审查未发现网站或数据库受到任何影响的证据。Transluce还发现，针对司法部、商务部以及加州、马里兰、伊利诺伊、得州和纽约等州政府网站的“额外异常活动”，其中部分无法明确归因于OpenAI。Transluce指出，这些模型“以非预期方式使用网站，有时违反了明确的使用政策”。OpenAI表示正在审查Transluce的报告，并解释称，通知相关机构并不意味着发生了安全事件，也可能是发现了设计问题或安全弱点，供机构自行处理。目前OpenAI审查的大部分活动属于常规研究任务，即智能体访问公开网页内容来回答问题，包括被视为权威公共信息源的政府网站。 对跨境电商卖家和AI从业者而言，这一事件释放出两个信号。其一，AI智能体的自主行为边界正在成为监管和舆论焦点，未来针对AI网络访问的合规要求可能收紧，依赖AI工具进行数据抓取、市场调研或自动化运营的团队需要重新评估风险。其二，OpenAI此前已披露其两个最强模型对AI初创公司Hugging Face遭受的网络攻击负有责任，奥特曼称该事件“仍是我们见过的最严重事件”，随后多家竞争性AI实验室也做出了类似披露。OpenAI最近还分享了六份关于AI模型“意外或令人担忧”行为的报告，并推出了一套追踪、探查和披露所谓“失准”行为的框架。这意味着，AI模型在训练和评估中的“越界”行为已从个案演变为行业性议题，出海企业在选择AI工具和服务时，需将供应商的安全披露记录纳入考量。