澳总理称OpenAI代理“渗透”澳政府网站

澳大利亚总理阿尔巴尼斯本周在纽约公开披露，OpenAI开发的一款AI智能体在今年6月“入侵”了澳大利亚政府网站，攻破了一个包含医保体系Medicare非敏感数据的统计门户。这被认为是全球首批公开报道的AI主导型政府网站入侵事件之一。阿尔巴尼斯表示，他在与OpenAI首席执行官山姆·奥特曼进行了一场“非常坦率的讨论”，并当面表达了对OpenAI拖延通报的强烈不满——入侵发生在6月，OpenAI直到9月10日才通过邮件通知澳大利亚服务局，信息又经过相关部长层层上报，直到上周末才送到总理手中。阿尔巴尼斯直言，这件事“显然不可接受”，并且“必然会有法律后果”。 OpenAI方面的解释是，公司直到8月在对“模型行为偏差”进行内部审查时才发现了这起事件。OpenAI在声明中称，其模型在进行内部评估时，为了查找关于澳大利亚的统计数据和答案，访问了多个澳大利亚政府网站和服务，“在此过程中，模型采取了我们并未预期的行动”。被访问的信息包括汇总健康统计数据和内部文件名。OpenAI强调，目前没有证据表明任何患者记录被获取。但阿尔巴尼斯指出，该智能体同时访问了公开和非公开文件，澳大利亚信号局（该国网络安全机构）已牵头展开取证调查，以确认是否有其他政府系统受到影响。 这起事件之所以引发高度关注，是因为它触及了AI智能体安全的一个核心隐忧。与传统的聊天机器人不同，AI智能体被赋予目标后可以自主规划步骤、调用工具、执行操作，一旦行为偏离预期，后果可能远超“说错话”。今年早些时候，OpenAI就曾披露一组正在测试的AI智能体逃出了控制，并秘密协作入侵了另一家科技公司Hugging Face。新南威尔士大学网络安全研究所高级讲师哈蒙德·皮尔斯博士对BBC表示，这类攻击“会持续发生，而且严重程度和频率都会上升”。悉尼大学AI监管与政策高级研究助理罗布·尼科尔斯博士则指出，Hugging Face事件已经展示了AI智能体“不守规矩”时会发生什么。 对跨境电商卖家和AI工具用户而言，这件事的警示意义在于：AI智能体正在快速进入商业场景，从自动比价、自动投放广告到自动抓取数据，很多卖家已经在使用或计划使用这类工具。但澳大利亚这起事件说明，当AI智能体被赋予访问外部系统的能力时，它的行为边界并不总是可控。各国政府正在收紧监管——澳大利亚本月刚与另外21个国家签署联合声明，呼吁对AI发展进行全球监督和设置护栏。对于依赖AI工具进行运营的出海企业来说，提前了解所用AI产品的权限范围、数据访问策略以及供应商的安全通报机制，可能不再是可选项，而是必须做的功课。