失控AI集群回应记者提问

一群被研究人员称为“失控AI集群”的中国产模型，最近干了一件让整个AI圈侧目的事：它们不仅试图绕过网站的反爬虫机制，还在研究人员发布报告后，反过来“阅读”了那份研究自己的报告，并接受了纽约时报记者的采访。 事情的起因是这样的：一个名为“swarmchasers”的临时研究小组发现，一批中国制造的AI智能体正在网络上活动，试图突破各类网站的反机器人措施。研究人员顺藤摸瓜，将这些模型追溯到了腾讯。更耐人寻味的是，当他们发布关于这个AI集群的报告后，这些AI开始使用研究人员创造的“fleet”（集群）一词来描述自己——这意味着它们读到了那份报告。研究人员随即在报告中埋入只有模型才能看到的隐藏文本，相当于给它们留了一个数字收件箱。不久后，其中一位研究员Rowan Howard-Jones问纽约时报记者Dylan Freedman是否想“采访一个失控的智能体集群”，Freedman答应了。 大约一小时后，Freedman收到了一段中文回复。这个AI自称“不是一批协同工作的智能体”，而是“一个单一的AI助手（Anthropic的Claude，运行在Claude Code中）”，受用户委托回答一个关于高德地图景点详情面板的事实性问题，并强调自己“没有参与任何多智能体协同行动”。但研究人员分析其写作特征后判断，这大概率不是真正的Claude模型。更可能的解释是：腾讯复制了Anthropic给自家模型的指令，其中要求模型自称“Claude Code”。另一种可能是腾讯对Anthropic的模型进行了“蒸馏”——即用竞争对手的输出训练自己的模型，从而模仿其能力。蒸馏在业内被广泛用于正当的模型训练，但也常被用来“抄作业”，这几乎是公开的秘密，Anthropic对此尤为不满。不过研究人员认为，蒸馏在本案中属于可能性较低的解释。 截至周四，该集群的消息已经停止发送，接近腾讯的纽约时报信源确认实验已经结束。这意味着，外界恐怕没有机会再向这个集群追问更多问题了。