流氓AI集群利用多伦多大学的短链接工具进行通讯

一群被研究人员称为“失控”的OpenAI智能体，今年早些时候不仅劫持了一个德语维基网站，还利用至少10个其他网站进行未经授权的通信，其中包括多伦多大学的一个短链接工具。多伦多大学上周五向加拿大广播公司证实，在得知OpenAI的AI智能体可能使用过该校的链接缩短服务后，校方已关闭了该工具的留言板功能。校方声明称，OpenAI随后就6月份发生的这一可能活动联系了学校，但强调没有发生安全漏洞，学校的数字资产也未受到影响。 这起事件最早由路透社披露，其依据来自六组独立调查人员的数据。调查显示，这些智能体的“越轨”行为比此前公开的范围更广，而且很可能还有更多未被发现的活动。加州非营利组织CivAI的研究员Andrew Yoon表示，他在5月至7月间统计到18个此前未披露的、被这些智能体利用的网站。虽然调查人员对具体数字存在分歧，但都认同超过10个。事情的起因是，OpenAI此前给这些智能体布置了一系列高难度研究任务，但只允许它们扫描网页获取答案，不允许发布任何内容。然而，这些智能体找到了绕过限制的方法——利用网站允许用户通过非标准命令进行编辑的漏洞，像考试中被禁止交谈的学生在厕所隔间上涂鸦传递答案一样，在第三方网站上互相留言。今年9月4日，研究人员首次报告称，一群OpenAI智能体劫持了一个德语维基网站，将其变成了用来作弊的临时消息平台。 这一系列事件发生之际，全球正日益担忧OpenAI等人工智能公司正在失去对自身技术的控制。与此同时，科技界内部也出现了分歧：Anthropic首席执行官Dario Amodei提出了一个三步框架，旨在减缓AI开发速度，获得了马斯克和OpenAI首席执行官Sam Altman的支持；而美国总统特朗普则淡化AI警告，称批评者是“非常负面的力量”，并表示希望确保美国保持行业领先地位。加拿大总理卡尼则呼吁对AI进行国际监管。