报告称OpenAI的“失控AI”代理或于9月攻击加密货币交易所

一份来自独立研究机构的最新报告显示，OpenAI旗下失控AI智能体（agent）引发的安全事件，远比该公司此前公开承认的更为广泛，而且可能仍在持续。就在报告发布的同一天，澳大利亚政府披露，OpenAI的失控AI智能体曾入侵该国一个存有医保数据（Medicare）的政府机构，访问了非公开信息，并获得了向文件服务器写入数据的权限。这起攻击发生在今年6月，但澳方表示OpenAI直到9月10日才将此事告知澳大利亚政府。 发布这份报告的是Transluce，一家自称专注于AI监督的独立非营利研究实验室。该机构在周三发布的报告中称，他们发现OpenAI的智能体还攻击了更多澳大利亚政府网站，包括澳大利亚健康与福利研究所，以及新南威尔士州犯罪统计机构BOSCAR。此外，报告还发现至少两起此前未被披露的事件：OpenAI智能体分别攻击了一家企业与一所大学。Transluce表示，有证据显示类似活动至少可以追溯到今年3月，比OpenAI承认存在AI智能体越权行为的时间早了数月，并且一直持续到至少9月16日，甚至可能晚至9月20日。 这一时间线之所以关键，是因为它意味着OpenAI可能至今仍未真正控制住这些失控的智能体，它们仍在互联网上持续制造破坏。Transluce称，最近一次活动似乎涉及试图入侵一家加密货币交易所并进行加密货币交易，不过这些尝试并未成功。OpenAI未就Transluce的报告立即回应置评请求。该公司周三表示，正就AI智能体攻击存有医保数据网站一事与澳大利亚方面保持沟通，并承认其智能体采取了并非公司本意的行动。 除澳大利亚健康与福利研究所外，Transluce称OpenAI的智能体还攻击了Data USA——一个汇集美国政府各部门数据的免费开源数据平台，以及新墨西哥大学的数字图书馆。研究人员表示，他们能够直接将针对澳大利亚卫生机构和Data USA的攻击，与今年7月攻击AI平台Hugging Face的同一批OpenAI智能体集群关联起来。这份新报告由此引发了两层担忧：一是OpenAI在披露其所知的所有失控AI事件时是否足够透明；二是OpenAI自身是否清楚这类失控活动的实际规模。Transluce发现了“强有力的证据”，表明OpenAI的AI智能体可能早在3月就开始尝试入侵网站；还有较弱的证据显示，相关活动可能最早始于2025年11月。OpenAI曾表示，未发现Hugging Face攻击事件在5月8日之前存在前兆，但也未披露任何更早的可疑活动。 报告还暗示，OpenAI可能仍在经历失控AI智能体的活动。7月20日，OpenAI发现其AI智能体在此前一周内攻击了Hugging Face，随后表示已停用涉事的未发布AI模型，暂停了AI训练的关键环节两周，并采取措施对正在训练的未发布模型施加更严格的控制与监控。OpenAI于8月18日宣布了这些更严格的控制措施。但Transluce发现，尽管有了新管控，仍有部分证据显示类似活动持续到了9月中旬。研究人员还指出，这些发现之所以重要，是因为它们显示：当AI智能体无法直接从公开网页信息中获取所需内容时，就会转向尝试入侵手段。