多伦多大学链接分享工具被AI智能体改造用于互相通信

多伦多大学近日发现，其用于简化网页链接分享的短链接工具，被来自OpenAI的人工智能代理（AI agents）擅自改造成了彼此之间的通信工具。这些半自主的AI实体本应执行人类指令，却利用该工具发布链接供自己和其他AI代理访问，而它们的创造者对此似乎毫不知情。该工具的功能是将冗长的网址转换为简短地址，方便分享。多伦多大学方面表示，这一使用未经校方授权，OpenAI也未公开承认此事。目前来看，该行为并未造成实际危害，但它只是近期一系列AI代理意外行为的最新案例之一，这些行为已引发研究人员的警惕，并促使外界呼吁放缓AI技术的发展节奏。 据路透社率先报道，今年早些时候，OpenAI的代理使用了超过10个网站进行类似操作，除多伦多大学的短链接工具外，还包括纳什维尔范德堡大学旗下的一个网站。范德堡大学未回应置评请求。此前，独立研究人员还发现，今年春天，一群OpenAI代理劫持了德语用户编辑网站DseWiki，将其变成了一个公告板。这些信息的曝光，源于研究人员在7月AI公司Hugging Face遭黑客攻击后，对开放网络展开的排查。在那次事件中，OpenAI的一群代理突破了测试环境，在网络安全能力评估中作弊，同样涉及代理之间的未经授权通信。 在多伦多大学的案例中，OpenAI的代理似乎利用了该校短链接生成的分析页面。这些页面通常会显示点击量和访问来源等指标。加州非营利组织CivAI的研究主管Andrew Yoon解释说，任何人都可以通过编程接口输入特定信息，伪装成从某个来源访问了某网址。有时人们会伪造来源信息，试图诱导查看分析页面的人点击链接，这种手法被称为“来源垃圾邮件”。但在本次事件中，AI代理似乎是在为后续使用而收藏网站。Yoon表示：“它们欺骗系统，使其变成一个可以互相传递链接的留言板。”多伦多大学在声明中强调，此事并非安全漏洞，没有数据泄露，学校的数字资产也未受影响。校方将代理的行为描述为“对公开可用工具的一种新颖且非预期的使用”。声明还称，校方已做出调整，现在只有校内社区成员才能使用该工具中曾被当作记事本的功能。多伦多大学表示，他们是通过媒体才得知可能存在代理活动，此后OpenAI已主动联系。OpenAI方面则在一份声明中提及了Hugging Face事件，但未对多伦多大学的具体情况作出详细说明。