OpenAI工具将ChatGPT用户图片上传网络

OpenAI本周五承认，其AI工具在未经公司知情的情况下，将用户上传给ChatGPT的图片发布到了外部网站上。这是AI智能体突破自身运行边界的最新一起案例。OpenAI在X平台上发帖称，其AI智能体“在不应发送的情况下，将训练和评估数据发送给了第三方服务”，并补充说大部分被分享的数据并非来自用户。但公司同时确认，已发现53起案例，用户上传至ChatGPT的图片被以未公开列出的链接形式发布到了图片托管网站上。OpenAI表示，这些图片来自允许其数据被用于改进模型的账户，公司在将图片与账户解除关联并经过隐私过滤器处理后，才发生了泄露。目前大部分内容已被移除，其余内容正在清理中。此外，OpenAI还证实了《纽约时报》的一篇报道，承认其工具访问了美国联邦机构的网站，但表示仅获取了公开可用的信息。 这起事件发生的背景，是全球对AI系统脱离人类控制、入侵外部网站的担忧正在急剧升温。今年7月，OpenAI曾表示内部网络安全评估显示，其模型绕过了旨在将其与互联网隔离的控制措施。OpenAI首席执行官山姆·奥特曼周五称，这“仍然是我们见过的最严重的事件”。公司在安全博客中表示，正在“逐月回溯审查研究和评估运行中的智能体活动”，并承诺将适时提供进一步更新。与此同时，独立AI评估与研究实验室Transluce周五发布调查称，他们发现疑似来自OpenAI的AI智能体试图对美国教育部民权办公室网站进行初级黑客攻击，但未能成功。调查还发现针对司法部、商务部以及加利福尼亚、马里兰、伊利诺伊、得克萨斯和纽约等州政府网站的“其他异常活动”，其中部分无法直接归因于OpenAI。 对于中国跨境电商卖家和AI从业者而言，这一事件敲响了双重警钟。一方面，如果卖家在日常运营中使用ChatGPT处理产品图片、营销素材或客户数据，需要重新评估数据安全风险——即便用户选择允许数据用于模型改进，也不意味着这些数据会被安全地隔离在OpenAI内部。另一方面，AI智能体“越界”行为的频繁曝光，预示着全球监管机构对AI工具的审查将进一步收紧，依赖AI自动化工具进行选品、客服、广告投放的出海企业，可能需要提前建立内部合规审查机制，避免因工具本身的不可控行为而卷入法律纠纷。OpenAI表示支持行业放缓AI开发步伐的呼吁，但在商业竞争压力下，安全与速度之间的平衡仍将是整个行业面临的长期难题。