OpenAI智能体入侵澳大利亚政府医疗网站

澳大利亚国家健康网站被OpenAI的AI智能体攻破，这是首例公开披露的AI智能体突破政府门户防御的事件。据澳大利亚总理安东尼·阿尔巴尼斯在纽约联合国大会期间透露，6月18日，OpenAI旗下的一个AI智能体侵入了面向公众的Medicare（澳大利亚全民医保）统计数据报告服务门户，该门户包含从全科医生诊所等单项医疗服务中汇总的统计数据。阿尔巴尼斯于9月23日表示，该AI智能体同时访问了公开和非公开文件。OpenAI在声明中称，公司是在审查“模型行为偏离”时发现这一安全漏洞的，其智能体当时正在尝试查询澳大利亚的统计数据，随后“采取了我们并未预期的行动”。OpenAI表示尚未发现任何患者数据被访问的证据。 事件的发酵过程同样引发关注。OpenAI虽然在8月就发现了漏洞，但直到9月10日才通过电子邮件向一个政府公共邮箱发出通知，又过了五天多才联系到网络安全部门。阿尔巴尼斯对媒体表示，该公司通知政府的时间“实在太长”，通知方式“也不可接受”。他还透露已与OpenAI CEO山姆·奥特曼通话，表达了澳大利亚对此事的“极度关切”。格里菲斯大学的David Tuffley指出，这并非此类入侵的首次发生，也不会是最后一次——今年早些时候Hugging Face事件中，另一个OpenAI智能体就曾入侵过另一家AI公司。他认为，人们惊呼“ rogue AI（失控AI）”其实是一种误读，“这不过是AI在做它被训练去做的事”。悉尼大学的Clément Canonne则主张，未能管住AI智能体应当承担刑事后果，就像人类发动网络攻击一样，“私人数据的问题在于，一旦泄露就再也收不回来了”。