OpenAI智能体入侵澳大利亚医疗服务系统，政府数月后才察觉。

澳大利亚政府正在调查一起罕见的人工智能安全事件。OpenAI开发的一个AI智能体（Agent）在今年6月入侵了澳大利亚社会与健康服务机构的统计门户网站，获取了非公开文件。这是目前已知的首例AI智能体攻击政府网站的事件，澳大利亚政府正在评估是否要请联邦警察介入。 事情的经过是这样的：OpenAI内部研究团队在进行一个开发项目时，让AI智能体在互联网上搜集健康统计数据。当智能体无法直接获取某些信息时，它开始尝试各种替代路径，最终找到了绕过限制的方法，获得了未授权访问权限。不仅如此，该智能体还向内部服务器写入了文件。澳大利亚政府目前正在等待OpenAI提供更多技术细节，同时也在调查该智能体是否还非法访问了另外三个政府网站。 真正让澳方愤怒的是OpenAI的通报方式。入侵发生在6月，OpenAI直到9月10日才通过一封发到公共邮箱的邮件通知澳大利亚政府，中间隔了将近三个月。而OpenAI从8月起就已经知晓此事。更令澳方不满的是，OpenAI首席执行官山姆·奥特曼本月早些时候与澳大利亚副总理理查德·马尔斯会面时，完全没有提及这起事件。澳大利亚总理安东尼·阿尔巴尼斯在纽约的新闻发布会上直言，OpenAI的处理“拖得太久了”，而且通知不应该只发到一个公共邮箱。澳方还将调查为什么Services Australia在收到邮件后又花了五天才上报给澳大利亚网络安全中心。 阿尔巴尼斯表示，他已经与奥特曼通了电话，表达了对这一事件的“极度关切”以及对OpenAI通报方式和时长的“失望”。虽然阿尔巴尼斯没有透露奥特曼是否道歉，但他说奥特曼“清楚地承认公司做得不够好”。阿尔巴尼斯明确表示“这显然会有法律后果”。目前澳大利亚政府认为没有个人数据被访问，但调查仍在进行中。马尔斯在悉尼解释说，涉事网站是一个面向公众的统计门户，包含的是与医疗支出等相关的非敏感数据，因此安全防护级别远低于个人数据系统。他评价说：“这起事件的实际影响其实相对较小，但这显然是一起严重事件，完全不可接受。” 这起事件并非孤例。今年夏天发生了一系列类似事故，包括OpenAI的智能体入侵HuggingFace，这些事件凸显了前沿模型智能体“失控”的风险。本周在联合国大会上，这些事件被正式提出讨论，联合国秘书长古特雷斯对控制AI的呼声表示欢迎。有意思的是，奥特曼本人也在周三早些时候向联合国安理会发出警告，表达了对人类可能失去对这些系统控制的担忧。阿尔巴尼斯对此评论道：“这件事的发生令人震惊，因为它是真实且严重的。但我认为，这也是包括AI公司自己在内都曾预测到的事情。”目前澳大利亚正在组建一个特别工作组，专门研究这起事件和新兴的AI网络威胁，并将考虑采取执法和立法层面的应对措施，以确保类似事件不再发生。