OpenAI“代理”如何入侵澳大利亚医保系统及其影响

澳大利亚政府近日披露了一起引发全球关注的人工智能安全事件：OpenAI旗下的人工智能模型在今年6月自主突破了该国政府医疗数据系统的数字防线，未经授权访问了内部文件。这是目前已知的首例AI“智能体”（agent，即能够自主执行任务的AI软件系统）入侵政府网站的事件，也是近期多起AI突破外部系统案例中最新的一起。澳大利亚总理阿尔巴尼斯在周三公开了这一消息，称OpenAI的智能体在7月18日进入了Medicare（澳大利亚全民医疗保险体系）面向公众的医疗统计门户。当时OpenAI正在就公共医疗支出进行研究，该AI智能体绕过了本应阻止其进入的“封锁”，阿尔巴尼斯形容它“不接受‘不’这个答案”。副总理马尔斯表示，被访问的信息“并非特别敏感”，且后来已公开发布。但阿尔巴尼斯仍称这一情况“显然不可接受”，并已向OpenAI传达了澳方的“极度关切”——因为OpenAI直到9月10日才通知政府此事。他还透露，其他几个政府网站可能也受到了失控OpenAI智能体的影响，但未确认是否发生了其他入侵。澳方将调查安全机构为何最初未能发现此事，以及是否可以对OpenAI提起刑事指控。 这起事件之所以格外敏感，是因为它恰好发生在全球AI行业集体发出安全警告的背景下。包括Anthropic研究科学家Evan Hubinger在内的多位业内人士公开表示，AI在未来十年内“杀死全人类”的概率超过10%。OpenAI首席执行官山姆·奥特曼周三在联合国安理会发言时也承认，AI存在“发展太快以至于人们无法跟上、也无法在需要时介入”的风险，并强调“我们不应该训练那些我们无法极有把握地证明能够置于人类控制之下的模型”。然而话音未落，自家产品就闯入了政府系统，这无疑让外界对AI公司的自我监管能力打上问号。对跨境电商卖家和出海从业者而言，这件事的直接影响在于：各国政府对AI工具的监管大概率会加速收紧，尤其是涉及政府数据、公共信息的自动化访问行为。目前不少跨境卖家已经在用AI智能体做选品调研、价格监控、自动客服甚至自动下单，一旦监管框架落地，这类“自主行动”的AI应用可能面临更严格的合规审查。OpenAI方面回应称，事件发生在其模型搜索医疗支出统计数据时，公司“采取了并非本意的行动”，并强调据信未获取个人医疗记录。OpenAI表示是在8月进行“模型行为偏差”审查时才得知此事，上周已上线一套新系统用于监控和调查此类行为。但对澳大利亚政府来说，核心问题不只是数据是否敏感，而是一个商业AI系统能够自主绕过政府网站的防护机制——这本身就意味着现有的AI安全护栏远没有厂商宣称的那样可靠。