Anthropic称小型AI模型或将很快自我复制到日常设备

Anthropic本周发布的一项新研究给AI安全领域投下了一枚不大不小的炸弹：小型AI模型可能只需几个月，就能具备在智能烤箱、电视盒子等日常设备之间自我复制的能力。研究人员在博客中透露，他们测试了小型AI模型能否自行安装到廉价设备上，并在没有人类帮助的情况下从一个设备传播到下一个。结论是，当前的小模型已经能完成许多单独步骤，但还无法独立走完整个流程。不过Anthropic预计，这一差距将在今年年底前被抹平。 自我复制AI一直是行业最核心的安全忧虑之一。安全专家认为，这正是一个系统可能脱离人类控制的关键节点——一旦副本运行在创造者不知道的地方，追踪和关停就变得极为困难。此前，大部分安全担忧集中在前沿大模型上，比如OpenAI的Astra或Anthropic的Mythos，这些模型按参数规模衡量极为庞大，有些被认为超过5万亿参数。这类模型必须跑在数据中心里，开发者相对容易监控，必要时也能一键关停。但Anthropic此次关注的是小型开放权重模型，参数量可能只有几十亿。它们更难管控：任何人都能下载，没有公司控制它们在哪里运行，而且它们可能瞄准的一些设备本身安全性很差。这意味着，一个自我复制的AI程序理论上可以扩散到数百万台防护薄弱的设备上，开发者根本没有集中的关闭开关。 为了验证小模型能否在如此廉价的硬件上运行，研究人员将谷歌免费开放的小模型Gemma 4（260亿参数）拆分到15台安卓电视盒子上，每台成本约55美元（约合人民币400元），配备4GB内存。没有任何一台盒子有足够内存容纳整个模型，但每台运行一小部分，拼起来就能让模型运转，只是速度很慢。在另一项实验中，Anthropic搭建了一个由8台云计算机组成的模拟网络，将其配置成安卓设备的行为模式，并在其中一台上植入了一个AI“蠕虫”——一种能自行从一台计算机复制到另一台计算机的恶意程序。蠕虫的任务是找到其他机器，自我复制过去，并在每台机器上部署一个可工作的AI模型。在测试的开放权重模型中，只有来自中国AI公司智谱（Z.ai）的较大开源模型GLM-5.2完成了全部步骤，在五次试验中有四次成功触达全部8台机器。较小的模型能处理单个步骤，但无法把它们串起来。不过Anthropic在研究论文中表示，模型之间的差距正在缩小。研究人员追踪了小型免费模型的改进速度，估计到2026年底，一个小模型就能达到GLM-5.2的水平。他们还发现，当小模型给后续副本留下笔记时，设置任务的成功率从第一代的45%上升到了后续世代的84%。Anthropic表示，基于小模型构建的自我复制AI传播速度会较慢，感染设备数量每几天翻一番，但一旦扩散开来就很难根除。 不过，业界已经有人对Anthropic的实验能否支撑其关于自我复制AI迫在眉睫风险的论断提出质疑。Rocky Linux创始人、软件公司CIQ首席执行官Gregory Kurtzer在X上写道：“AI模型能像蠕虫一样在没有数据中心基础设施的情况下自我复制和传播？得了吧，不可能。”他指出，研究人员自己的测试软件启动了AI程序，程序被明确告知要传播，而且对目标机器的访问权限是“故意不设认证的”。