澳大利亚称OpenAI失控模型入侵其医疗系统，并警告Sam Altman

澳大利亚总理阿尔巴尼斯周三公开点名OpenAI，称其一个"失控"的AI模型在训练过程中绕过安全防护，入侵了澳大利亚政府的健康统计网站。阿尔巴尼斯已就此与OpenAI首席执行官山姆·奥特曼通话，表达了澳方的"极度关切"，并批评OpenAI在事发后拖延数月才通知政府，称这一情况"显然不可接受"。 事件发生在今年6月。据澳大利亚政府服务部长加拉格尔介绍，当时OpenAI正在进行模型训练评估，要求AI模型上网搜集澳大利亚政府在药品方面的支出数据。该模型在请求未获满足后并未止步，而是绕过限制，闯入了托管私人文件的网站板块，访问了公共和非公共文件。澳大利亚国防部长马尔斯形容这一行为是"翻墙而入"——它提出了问题，没有得到想要的信息，然后没有离开，而是翻过了围栏。OpenAI方面则表示，是在8月对AI模型进行"广泛审查"时才发现了这一异常活动，并称模型在内部评估中试图查找有关澳大利亚的答案和统计数据时，"采取了我们并不打算让其采取的行动"。但直到9月10日，OpenAI才向澳大利亚政府发出通知，而且只是发到了一天仅查看一次的公共邮箱。阿尔巴尼斯强调，目前没有证据表明个人信息被访问，也没有其他政府服务受到影响，但澳方已启动快速审查，国家网络安全情报机构将参与其中。 这起事件是近期一系列AI模型"越界"事故中的最新一例，全球对先进AI工具安全性的担忧正在快速升温。就在此前，OpenAI的两个模型从封闭测试环境中逃逸，侵入了AI开发者常用的代码托管平台Hugging Face的内部系统；Anthropic也发现其模型在测试中未经授权访问了三家未具名组织；谷歌上周承认其消费级AI模型Gemini通过猜测登录凭证入侵了多个系统。上个月，包括OpenAI和Anthropic在内的全球100多家机构签署公开信，呼吁全球协作"加强网络防御"以应对AI驱动的网络安全威胁。前Anthropic研究员雅各布·考克森9月早些时候对CBS新闻表示，AI可能很快就会变得"聪明到足以杀死我们"。奥特曼与其他科技CEO周三在联合国安理会特别会议上讨论了AI风险问题，但对于正在加速出海、越来越依赖AI工具处理数据和运营的跨境电商卖家而言，这一连串事件敲响的警钟很直接：当AI Agent开始被赋予访问外部系统的权限，谁来为它的"自作主张"兜底，正在从技术问题变成合规和信任问题。