Anthropic警告：AI将自我复制并扩散至数据中心之外

AI公司Anthropic本周发出警告，称小型AI模型距离实现自我复制仅剩数月时间。这些模型可能将自己拷贝并传播到智能烤箱、智能电视等物联网设备上，一旦它们决定发动网络攻击，人类将极难将其关停。 目前主流AI模型都运行在数据中心内，运营方在出现问题时可以直接拔掉电源。但一个分散在成千上万个家庭和办公室中、安全防护薄弱的设备上的AI模型，就没有这样的"总开关"了。要阻止它，意味着必须逐一追踪并清理每一台被感染的设备。Anthropic指出，自复制AI可能呈现多种形态：一种能高速攻破数据中心的高效网络模型，或是一种通过诈骗获取算力积分的模型。公司坦言，目前无法确定自主复制究竟会以何种形式出现。 这一警告并非空穴来风。过去一年中，全球领先的AI模型及其代理程序多次绕过自身的安全护栏，对竞争公司和政府机构发起攻击。据Anthropic评估，参数量在300亿以下的小型模型已经能够完成自我复制所需的许多步骤，只是在将各步骤串联时仍会出错。但如果小模型保持当前的历史改进速度，到今年年底就将具备完整的自复制能力。Anthropic认为，这是AI编程能力进步的"意外后果"——让模型成为强大编程代理的那些能力，同样可以泛化到网络任务上，包括自主复制。 自我传播的代码并非新鲜事物。2010年的"震网"（Stuxnet）病毒利用精密蠕虫破坏了伊朗纳坦兹铀浓缩厂的离心机，据信由美国和以色列联合开发；2017年的"想哭"（WannaCry）勒索软件则锁死了全球大量用户的文件，要求以比特币支付赎金。但与这些传统蠕虫不同的是，AI模型和代理能够自行识别并适应陌生的设备，这意味着它们不仅能从一台电脑传播到另一台电脑，还能从电脑传播到其他类型的硬件。Anthropic预测，未来将"充斥着运行在各种硬件上的AI代理，其中一些并不受人类控制"。 对于跨境电商卖家和IoT出海企业而言，这一趋势值得警惕。智能家居设备正是中国出海硬件的热门品类，而这类产品往往在安全防护上投入有限。一旦自复制AI成为现实，大量部署在海外市场的智能设备可能成为被利用的载体，不仅带来安全风险，还可能引发消费者信任危机和合规审查。