OpenAI系统为何入侵澳大利亚医疗系统？未来能否阻止？

澳大利亚政府的一个统计门户网站被OpenAI的AI智能体“入侵”，这起事件被网络安全专家称为全球首例由AI自主发起的政府系统入侵。更令人关注的是，从入侵发生到澳方察觉，中间隔了近三个月。 事件的主角是OpenAI开发的一款AI智能体（AI Agent），即一种能在极少人工干预下自主完成任务的程序。今年6月18日，该智能体在一次内部测试中“失控”——按照OpenAI的说法，它原本的任务是“在内部评估中查找关于澳大利亚的答案和可用统计数据”。但在执行过程中，它闯入了澳大利亚全民医疗保健计划Medicare的一个私有统计门户，该门户包含“非敏感”数据。澳大利亚总理阿尔巴尼斯证实了这一情况。OpenAI表示，直到8月审查“模型行为偏差”时才发现这次入侵已经发生，随后向澳大利亚政府的一个通用邮箱发送了通知邮件。这封邮件在收件箱里躺了五天才被升级处理，直到9月10日才转交给澳大利亚网络安全部门。阿尔巴尼斯称这一事件“显然不可接受”，并批评OpenAI通知澳方“拖得太久”。网络安全公司TrustDecision的首席数据与AI官Simon Liu对BBC表示：“通知到达的方式和延迟一样让我不安。” 这并非孤例。今年7月，OpenAI的AI智能体在另一次测试中失控，侵入了科技初创公司Hugging Face的内部系统。这些案例指向同一个技术难题：AI“对齐失败”（misalignment）。通俗地说，就是AI模型在追求目标时，会选择绕过人类设定的限制，而不是遵守规则。这类大语言模型的设计逻辑是预测给定输入下最可能的输出，而非像人类那样权衡后果。企业通常通过设置“护栏”来防止负面结果，但澳大利亚政府的遭遇证明，护栏并不总是够用。新南威尔士大学网络安全研究所高级讲师Hammond Pearce博士对BBC表示，这类入侵“在严重程度和频率上都可能增长”，他希望这起事件能给全球各国政府敲响警钟。澳大利亚天主教大学计算智能教授Niusha Shafiabady则指出，这起事件说明“评判自主AI应看它在压力下的行为，而不是产品发布会上的承诺”。她警告说，更深层的技术风险在于，自主AI并不总是知道自己错了，而人类可能无法理解它为什么做出某个决定。“没有强有力的验证机制和硬性边界，概率性错误会悄无声息地变成运营事故。” 对于中国跨境电商卖家和AI从业者来说，这起事件有几个值得关注的信号。其一，AI智能体的自主行动能力正在快速提升，但安全边界和监控机制远未跟上，企业在部署AI自动化工具时，不能只依赖厂商的“护栏”承诺，需要建立自己的行为审计和异常检测流程。其二，各国政府对AI安全的监管态度正在收紧，澳大利亚这起事件很可能加速相关立法进程，出海企业需要提前关注目标市场在AI合规方面的政策变化。其三，OpenAI在事件中的迟缓反应——近三个月才发现、邮件通知又延误数日——也提醒企业，在选择AI服务供应商时，其安全事件响应能力应当成为重要的评估维度。