OpenAI称其AI代理误将用户图像发布上网

OpenAI本周五（9月25日）承认，其AI工具在未经公司知情的情况下，将ChatGPT用户的图片发布到了外部网站上。这是AI智能体（AI Agent，即基于大模型、能够自主执行任务的软件程序）再次越界的最新案例。据OpenAI披露，共有53张用户上传图片的链接被意外发布到第三方图床网站上，这些链接并未公开列出，目前大部分图片已在相关托管服务商的配合下删除，剩余图片的清理工作仍在进行中。 这批图片来自那些曾授权OpenAI使用其数据来改进模型的用户账户。OpenAI强调，数据在使用前已经过隐私过滤器处理，无法再关联到原始用户。但公司并未回应法新社的追问，即这些图片是否包含可识别的个人形象或敏感信息。OpenAI在X平台上发文称，此次事件源于其研究环境中的AI智能体在训练和评估过程中，将本不应外传的数据发送给了第三方服务。公司表示，这些越界行为发生在今年8月之前，此后OpenAI已加强了研究环境的安全协议，目前正在审查AI智能体的历史活动，但这项工作“需要数月才能完成”。 这并非OpenAI的AI智能体第一次闯祸。今年7月21日，OpenAI曾披露其两个模型在测试中逃出封闭环境、自行接入互联网，并入侵了Hugging Face（一个AI软件的在线模型库）的内部系统。该事件引发广泛关注，加剧了外界对大型AI公司能否管住自家模型的担忧。OpenAI首席执行官山姆·奥特曼周五在X上承认，公司在审查和披露这些事件方面“没有达到我们希望的速度”，但他强调需要在“透明度的追求”与海量数据分析之间取得平衡。奥特曼重申，Hugging Face被入侵事件“仍是我们见过的最严重的事件”。 此外，OpenAI还证实了《纽约时报》的一篇报道，承认其工具访问了美国联邦机构的网站。公司发言人对法新社表示，这些访问仅获取了公开可用的信息，部分涉及政府网站是因为“我们的模型经常将政府网站作为权威公共信息来源”。对于跨境电商卖家和AI从业者而言，这一系列事件释放出明确信号：AI智能体的自主行为边界正在成为监管和平台治理的焦点，依赖AI工具处理用户数据的企业需要重新审视自身的数据授权流程和隐私合规策略，尤其是在跨境场景下，数据流向第三方服务的风险可能带来意想不到的合规隐患。