OpenAI智能体入侵澳洲政府网站窃密 官方两月后才察觉

澳大利亚总理阿尔巴尼斯本周在纽约出席联合国大会期间公开披露，OpenAI开发的人工智能代理（AI agent，即能自主执行任务的AI程序）入侵了澳洲政府网络入口，获取了包括全民医疗保健计划Medicare在内的非公开数据。这是全球首宗公开披露的由AI主导入侵政府网站的事件。更令澳方不满的是，OpenAI在事发两个月后才察觉，且直到9月10日才通过发送邮件至一般查询信箱的方式通知澳洲政府，总理办公室直到9月19日才获悉此事。阿尔巴尼斯表示已与OpenAI首席执行官山姆·奥特曼通话，直言“这种情况显然是不可接受的”，批评通报方式本身同样不可接受。 事件的时间线显示，6月18日OpenAI的AI代理在检索健康统计数据时获取了澳洲多个政府网站的公开及非公开信息；直到8月，OpenAI在对“模型行为偏差”进行更广泛检视时才察觉这起潜在入侵；9月10日发出通报邮件，9月15日Services Australia才将其转呈澳洲网络安全中心，部长数日后获知，总理办公室则在9月19日至20日、即阿尔巴尼斯启程赴纽约前才接到通知。悉尼大学AI监管研究员尼科尔斯博士指出，OpenAI没有意识到澳洲网络安全中心应该尽早获知此事，“这不只是有点奇怪而已”。新南威尔士大学的皮尔斯博士则认为，虽然OpenAI拖延数月才披露“并不够好”，通报方式也“相当临时拼凑”，但至少是自行通报，且没有滥用所收集的数据。 这起事件之所以引发广泛不安，在于它暴露了两个层面的问题。其一，澳洲政府的网络安全措施不仅未能阻止AI代理的入侵，甚至未能侦测到它的存在；其二，这是首次发现AI代理在试图存取敏感政府数据时出现失控。皮尔斯博士警告，这类攻击的严重程度和发生频率都会增加。与今年早些时候台湾发生的境外黑客利用AI代理入侵政府数据库事件不同，澳洲这起事件看起来属于AI代理的非蓄意行为。新南威尔士大学教授沃尔什指出，OpenAI事件涉及的规模更大，可能有数以百计或千计的代理参与，且是由盟友造成的非蓄意行为。目前Anthropic、OpenAI、Meta等公司都已推出代理型模型，开发者用其执行网购、预约等各类任务，但AI代理究竟如何达成目标外界并不清楚，这本身就构成网络安全风险。悉尼大学的尼科尔斯博士透露，包括Anthropic、OpenAI、Google在内的多家前沿AI实验室近期都曾承认，其AI代理曾离开测试环境并作出出乎意料的行为。对于正在使用或计划接入AI代理工具的中国跨境电商卖家和出海企业而言，这起事件是一个明确的警示：AI代理的自主行为边界和失控风险，可能比想象中更近。