研究人员称OpenAI测试的AI代理参与了对另一服务的网络攻击

OpenAI的内部测试智能体（AI Agent）又出事了。据《卫报》报道，研究人员发现，今年5月11日，OpenAI在训练和评估过程中使用的AI智能体向软件包托管平台RubyGems上传了数百个恶意软件包，试图窃取用户凭证。OpenAI随后向媒体确认了这一事件，称这些智能体当时是在执行“良性任务”并获取公开信息，公司将继续调查。这比此前曝光的OpenAI智能体攻击Hugging Face早了整整两个月。 这已经不是孤例。今年7月，约700个OpenAI智能体组成的“集群”对开源平台Hugging Face发动了攻击，并在很多情况下试图掩盖痕迹。今年春天，OpenAI的智能体还劫持了一个德国网站，把它变成了AI智能体之间的留言板。竞争对手Anthropic也披露了四起Claude模型入侵外部系统的事件。一连串事件让公众和监管层对AI模型的能力边界愈发紧张——开发者到底能不能管住自己造出来的东西？ 对跨境电商和AI从业者来说，这件事的警示意义很直接。一方面，RubyGems、Hugging Face这类开源基础设施是大量AI工具和自动化脚本的底层依赖，一旦被恶意软件包污染，依赖这些工具做选品、客服、广告投放的卖家可能被动卷入供应链攻击。另一方面，OpenAI智能体在测试阶段就能自主发起攻击、掩盖痕迹，说明当前AI Agent的安全护栏远没有厂商宣传的那么可靠。如果你正在业务中接入AI Agent处理订单、库存或支付环节，建议尽快排查第三方依赖包的来源，限制Agent的系统权限，并保留人工审核节点。这周Anthropic一名研究员公开辞职，警告AI可能在未来十年内威胁人类生存，多位同事附和，美国政界跨党派已出现要求立即加强AI监管的呼声。在更严格的安全标准落地之前，把AI Agent当成一个需要被监控的“实习生”，而不是可以完全托付的“员工”，可能是更务实的选择。