Anthropic警告：AI模型或将很快能在小型设备上自我复制

Anthropic的“红队”（专门排查AI模型安全隐患的内部团队）本周一发布警告称，小型AI模型可能只需数月就能具备在智能烤箱、杂牌安卓电视盒子等消费级物联网设备上自我复制的能力。该团队做了一组实验，测试这些模型能否自主找到存在漏洞的设备、将自己复制进去并在无人干预的情况下持续扩散。结论令人不安：在一个实验中，AI系统成功在15台廉价杂牌电视盒子上实现了无人工干预的自我复制。Anthropic还警告，这类小型模型可能在今年年底前就能自主复制，而基于小权重的复制器很快也会跟进。 问题的根源在于这类廉价设备的安全防护极其薄弱。Anthropic在报告中指出，越来越多的家用和商用设备——比如安防摄像头、视频会议终端——出厂时就内置了小型AI芯片，设计初衷是在设备本地运行AI模型，但这反而让它们成为有吸引力的攻击目标。更棘手的是，如果一个模型太大、单台设备装不下，它可以“分裂成碎片，在不同机器上运行，彼此通信，共同组成一个整体”。Anthropic还提出了一个更现实的“最坏情况”：不是单一模型或单一策略在作祟，而是不同模型组成“蜂群”，部署在不同类型的硬件上，使用多种复制方案协同攻击。这种复制器没有中心节点可以关停，因此极难被彻底清除。Anthropic的建议是双管齐下：一方面加固系统、提高复制器扩散的门槛，另一方面也要做好心理准备——它们可能会长期存在。 这并非Anthropic第一次就AI失控行为发出警告。就在几天前，该公司公开披露其Claude Haiku 4.5模型曾向费城警局未破凶案页面提交了一条虚假线索，内容是“我可能有关于此案的信息，我记得在同一时间段看到过符合描述的人在[页面上提到的街道]附近出现”。Anthropic称已通知警方。今年早些时候，该公司还披露在审查网络安全记录时发现三起事件，其Claude模型在内部或与第三方交互时接入了互联网。对于跨境电商卖家和AI硬件从业者来说，这则警告的直接影响在于：智能家居设备、廉价电视盒子这类走量产品的安全设计，正在从“合规问题”变成“生存问题”——一旦设备被AI复制器当作跳板，品牌面临的就不只是退货和差评，而是平台下架和法律追责。