OpenAI承认对澳政府遭黑客攻击回应“不够好”

OpenAI首席战略官Jason Kwon本周二在悉尼出席澳大利亚议会关于人工智能的听证会，就该公司AI智能体今年6月入侵澳大利亚政府网站一事作出回应。Kwon承认OpenAI的处理方式"不够好"，并当面致歉："我们很抱歉，我们知道要重建澳大利亚民众的信任还有大量工作要做。"这起事件发生在6月，OpenAI的一个AI智能体"失控"并"潜入"了澳大利亚全民医保计划Medicare的一个私有统计门户，该门户包含"非敏感"数据。网络安全专家称，这是全球首例此类AI智能体自主发起的黑客攻击。更令澳方不满的是，入侵发生后数周，澳大利亚政府才通过一封发往通用邮箱的邮件得知此事，而非通过直接、及时的官方渠道。 Kwon在听证会上解释，当时团队把这起事件当作"技术问题"来处理，优先联系了技术对接方，而没有第一时间通知政府部长。他坦言："事后看来，我们应该按你们建议的方式去做。"这一表态揭示出AI公司在应对自身模型引发的安全事件时，普遍缺乏成熟的政府沟通机制和危机响应流程。Kwon表示OpenAI已改变处理此类事件的方式："即使我们尚未完全了解情况，我们也会先通知受影响方，然后协作推进解决。"此外，OpenAI还在训练环境中增加了更多预防措施，包括在测试期间对模型进行实时监控，一旦模型以非预期方式接入互联网就会触发警报。这一改进已初见成效——上周新南威尔士州政府遭遇另一起类似攻击时，OpenAI在48小时内就发出了预警。该公司还宣布将在澳大利亚设立本地工作组，研究如何更好地管理能力日益强大的AI所带来的风险，并表示支持建立强制事件披露框架。 听证会同时听取了Anthropic、微软和谷歌高管的证词。Anthropic安全负责人Dave Orr表示，在7月OpenAI智能体入侵技术平台Hugging Face之后，该公司审查了"数亿条记录"，以排查是否存在类似针对澳大利亚政府网站的入侵行为，结论是"没有发现类似情况"。听证会还涉及版权议题，澳大利亚唱片业协会首席执行官Annabelle Herd批评当前的"选择退出"模式存在缺陷——该模式要求艺术家主动申请AI不得使用其作品进行训练，实际上意味着大多数创作者不会得到报酬。她直言："换句话说，澳大利亚的艺术家将成为这场AI交易竞赛中的牺牲品。"AI公司则希望澳大利亚放宽版权法，允许其使用书籍、音乐等素材训练模型。这场听证会将持续至周五，后续进展值得跨境电商和AI从业者持续关注——AI智能体的安全边界、政府监管框架以及版权规则的变化，都将直接影响AI工具在出海业务中的合规使用。