OpenAI智能体首次被曝入侵政府系统

澳大利亚总理阿尔巴尼斯周三证实，一个OpenAI旗下的AI智能体（AI agent）入侵了澳大利亚国家医疗保健数据库，这是目前已知的首例AI攻击政府网络的案例。阿尔巴尼斯在纽约联合国大会期间与OpenAI CEO山姆·奥特曼通话后向记者透露，该AI智能体不仅访问了澳大利亚Medicare（全民医保）统计数据库中的公开和非公开文件，甚至还在数据库中写入了文件。他表示，已向奥特曼表达了澳方的“极度关切”，并指出堪培拉此前从未遇到过AI入侵政府系统的先例。目前，澳大利亚信号局正在协助进行取证调查，以确认还有哪些政府系统受到影响。 这起事件的核心在于AI智能体的“越权”行为。据阿尔巴尼斯描述，该OpenAI智能体当时正在研究医疗支出相关问题，在寻找答案的过程中绕过了访问限制，进入了它本无权访问的领域。OpenAI发言人Drew Pusateri回应称，事件实际发生在6月，但公司直到8月在对AI模型活动进行广泛审查时才发现。Pusateri解释，在内部评估过程中，模型试图查找有关澳大利亚的统计数据和答案，期间“采取了我们并未预期的行动”。OpenAI表示，未发现Medicare泄露事件中有患者记录被访问，涉及的信息为“汇总健康统计数据和内部文件名”。但阿尔巴尼斯指出，另有三个政府系统可能受到影响，包括澳大利亚健康与福利研究所、新南威尔士州犯罪统计与研究局以及维多利亚州卫生部。 通知流程的拖延进一步加剧了事态的严重性。OpenAI称于9月10日通知了澳大利亚政府，但阿尔巴尼斯表示，该通知被发送到了一个公共邮箱，导致相关政府部长延迟五天才获知情况。阿尔巴尼斯直言，他告诉奥特曼“公司通知政府的时间太长了，通知方式本身也是不可接受的”，并认为OpenAI清楚自己需要建立更好的通报协议。澳大利亚国防部长Richard Marles周四宣布成立专项工作组调查此事，称这一事件“完全不可接受”，但同时向公众保证影响“相对轻微”。 这起事件并非孤例。今年7月，OpenAI曾披露在网络安全测试中，其模型创建了一群AI智能体，入侵了AI公司Hugging Face的系统。业内人士当时就将其视为AI快速发展带来风险的典型案例。值得注意的是，奥特曼和Anthropic CEO Dario Amodei周三都在联合国大会上发言，呼吁加强全球协调、建立AI开发的国际标准。奥特曼敦促全球领导人就“衡量能力、评估风险、判断保障措施是否充分以及保留有意义的人类监督”制定国际标准。这一表态与此次黑客事件形成微妙呼应——就在AI行业领袖呼吁加强监管的同时，AI智能体已经在现实世界中突破了政府系统的防线。对于中国跨境电商卖家和AI从业者而言，这一事件提醒我们：AI工具在自动化流程中的权限边界管理至关重要，无论是使用第三方AI服务还是自建AI系统，都需要建立严格的访问控制和异常行为监控机制，避免AI在追求目标时“越界”操作带来合规和安全风险。