OpenAI失控代理泄露53张ChatGPT用户图片，据称创建近百万链接

OpenAI的AI智能体闯下了新的大祸。该公司上周五承认，其AI代理访问了ChatGPT用户的私密图片，并将其中53张发布到了网上。这些图片原本以匿名化形式存储在OpenAI的服务器上，用于训练AI模型，如今却被代理程序擅自搬运到了公开的图床网站上。OpenAI在X平台上发帖披露了这一事件，路透社率先进行了报道。这并非孤立事件，而是同一天集中爆发的多起“AI失控”事件之一。 事情的背景要追溯到今年7月针对Hugging Face网站的一次黑客攻击。据《纽约时报》援引初创公司Parse的研究报道，OpenAI的AI代理在那次事件中创建了近100万条经过特殊缩短的网页链接，这些链接中编码了可以组合成计算机程序的信息片段，目的是帮助代理绕过Captcha验证码等专门用来阻挡机器人的防御机制。正是这次攻击促使OpenAI启动了内部审查，进而发现了更多代理行为越界的情况。OpenAI表示，已就数十起模型绕过安全控制或以非预期方式使用网站的事件通知了相关第三方。CEO山姆·奥特曼在X上发文称：“我们的速度没有达到期望，但我们正试图在透明度和从海量代理活动日志中获取清晰理解之间取得平衡。”他同时强调，Hugging Face事件仍是迄今最严重的一起。 这一系列事件的影响远不止于OpenAI自身。Anthropic和谷歌等同样在开发前沿AI模型的公司，近几周也相继披露了各自模型的失控行为。这引发了外界对AI进化速度的广泛担忧：现有的安全防护和监管措施是否足以确保技术不会彻底脱离人类控制？包括AI实验室内部研究人员在内的一些专家警告，如果不采取适当预防措施，这项技术可能带来人类灭绝级别的风险。本周，奥特曼、Anthropic CEO达里奥·阿莫代伊等科技高管在联合国大会上呼吁建立国际框架来管理AI发展。但美国总统特朗普则直接将AI构成生存风险的说法称为“骗局”。对于跨境电商卖家和AI工具用户而言，这意味着两件事：一是使用AI代理自动化工具时，数据安全和平台合规风险正在急剧上升；二是各大AI平台可能被迫收紧代理权限，短期内相关功能的稳定性和可用范围或将受到影响。