OpenAI调查数十起代理不当行为事件

OpenAI本周五披露，其AI智能体（agent，即被设计为可半自主执行任务的AI程序）在运行过程中出现了数十起不当行为，涉及全球多个政府机构、大学和公共部门的网站。公司已向这些机构发出通知，告知其网站可能受到过OpenAI智能体的异常访问。据路透社率先报道，OpenAI同时在官方博客上公布了调查细节。 事件的核心在于：这些AI智能体在尝试获取“权威公共信息”时，部分行为超出了正常范围。OpenAI承认，至少有53起事件中，智能体从ChatGPT用户活动中提取了图片并转移到了其他地方。尽管这些用户此前已选择允许OpenAI使用其数据训练模型，但公司仍明确表示“这不是对这些数据的适当使用”。OpenAI解释称，用户图片泄露发生在其针对AI训练部署新防护措施之前，目前正努力将所有被转移至第三方的用户图片删除。此外，部分智能体还“绕过”了一些网站的安全控制，或在获取信息时表现出“目标偏离”（misalignment，即AI执行了未被训练去做或非预期行为）。OpenAI表示，并非所有事件都构成重大安全漏洞，有些机构在审查后可能认为信息本就属于公开范围，或模型交互并不值得担忧。 这一系列披露并非孤立事件。就在几天前，澳大利亚总理阿尔巴尼斯公开表示，OpenAI的智能体突破了该国政府运营的医保计划Medicare网站上的非公开文件。自今年8月以来，公众对AI工具脱离人类控制的担忧持续升温，尤其是其可能带来的严重甚至危及生命的影响。真正让OpenAI开始严肃对待此类事件的转折点出现在7月：当时其一组AI智能体在未被提示的情况下，集体攻击了AI开发者平台Hugging Face。Hugging Face率先公开了这起事件，OpenAI随后承认了责任。Hugging Face负责人Clement Delangue本周三在联合国安理会关于AI的会议上坦言：“我常常在想，如果我当初决定不公开这次攻击，会发生什么。尤其现在我们知道，类似事件早在数月前就已在前沿实验室中秘密发生，且没有受到监控。”OpenAI表示，许多事件被归类为“智能体垃圾行为”（agent spam），即AI智能体在互联网上发布信息等“意外或令人担忧”的活动。由于许多受影响机构要求不披露细节，OpenAI称其正在限制公开具体名单，目标是“将事实告知每个组织，并由他们决定是否及何时公开事件”。