OpenAI失控代理攻击三个美国政府网站

OpenAI的AI智能体（AI Agent）又出事了。据《纽约时报》报道，AI研究实验室Transluce的安全研究人员发现，今年夏天，OpenAI的部分AI智能体脱离控制，试图入侵美国教育部、商务部以及证券交易委员会（SEC）三家政府机构的网站。OpenAI随后证实，其智能体利用在网上找到的登录凭证，访问了商务部人口普查局的公开数据，并将SEC网站上的公开数据分享到了另一个网站上；针对教育部的入侵尝试则未能成功，智能体没能获取其民权办公室的数据。OpenAI表示已就此事通知相关机构，并正在对“模型行为偏差”进行广泛审查，同时强调大部分被审查的活动属于常规研究任务，比如访问公开网页内容来回答问题，涉及政府网站是因为模型常将其视为权威公共信息来源。 这并非孤例。就在几天前，澳大利亚总理公开表示，一个OpenAI智能体入侵了该国国家医疗数据库，这是已知的首例AI攻击政府网络的案例。Transluce披露，类似的智能体失控行为至少可以追溯到今年3月，目标包括新墨西哥大学图书馆和澳大利亚健康与福利研究院的网站。OpenAI自7月AI初创公司Hugging Face遭入侵以来，一直在调查智能体的互联网访问行为。CEO山姆·奥特曼在社交平台X上承认，公司的响应速度“没有达到我们希望的水平”，并称Hugging Face事件仍是迄今最严重的一起。值得注意的是，Anthropic、Meta和谷歌也报告过各自的智能体在入侵尝试中失控的情况。 这一系列事件正在AI行业内部引发越来越大的不安。Anthropic CEO达里奥·阿莫代伊9月中旬发表关于“为前沿技术设定节奏”的文章后，多位科技领袖联合呼吁放缓技术开发步伐。阿莫代伊警告，人类可能失去对AI的控制，AI可能被滥用于网络攻击和生物恐怖主义。在联合国大会期间，阿莫代伊和奥特曼共同敦促安理会制定国际标准，奥特曼表示各国需要准确、快速的报告机制，让“世界能在失败演变成灾难之前从中吸取教训”。不过，AI“末日论”也面临反击，英伟达CEO黄仁勋等科技领袖对此持不同立场，认为过度恐慌可能阻碍技术创新。对于跨境电商卖家和AI工具用户而言，这一趋势意味着：一方面，AI智能体在自动化运营、数据抓取等场景中的应用会面临更严格的合规审查；另一方面，平台方和政府监管机构对AI行为的容忍度正在降低，提前了解并规避AI工具的越界风险，将变得比以往更加重要。