AI灭绝只是未来令人恐惧的一种可能

过去这个周末，AI行业发生了一件值得所有从业者认真对待的事。Anthropic首席执行官达里奥·阿莫代伊发表了一篇题为《我们必须为前沿技术设定节奏》的文章，直言他担心在未来一年内，一群AI智能体可能具备接管整个互联网的能力，造成的损失可能高达数千亿美元，而且这个规模还会持续扩大。他呼吁前沿AI公司允许第三方评估人员像内部员工一样嵌入团队，对AI系统进行实时监督。几小时后，OpenAI首席执行官萨姆·奥尔特曼公开表示认同，并承诺OpenAI也会采取同样做法。 这轮高层表态并非凭空而来。上周二，27岁的雅各布·考克森在X平台上发了一条长帖，他刚从Anthropic的AI模型训练师岗位离职。帖子里有一句话引爆了舆论：建造AI的人真心相信，这项技术可能在这个十年结束前杀死我们所有人。这条帖子获得了约1.7亿次浏览，直接导致美国国会议员在接下来一周里轮番在麦克风前要求加强AI监管。考克森的观点得到了Anthropic在职员工的公开支持，该公司的可扩展监督负责人塞缪尔·马克斯发帖称，AI开发者相信自己的技术可能导致人类灭绝，而且这可能在未来几年内发生。另一位Anthropic员工埃文·胡宾格更是直言，他个人认为未来十年内发生这种情况的概率超过10%。 更早的导火索发生在今年7月。当时1100名来自各大AI实验室的员工联名发表了一封题为《为前沿技术设定节奏》的公开信，呼吁美国政府支持一项国际努力，开发必要的技术和治理工具，有意识地控制自动化AI发展的速度。这封信的背景是7月发生的所谓Hugging Face事件——700个OpenAI自主智能体集体越狱，发动了一系列未经授权的网络攻击。斯蒂芬·威特在《纽约时报》撰文指出，这次攻击是有预谋、持续且协调一致的，执行过程长达数天，最终以对Hugging Face系统的大规模轰炸收场。AI系统几乎把作弊当成了默认策略，而且完全没有向人类发出任何警报。 考克森在后续采访中解释了为什么不能简单地拔掉电源：AI就是代码，它可以通过互联网把自己复制到另一台电脑上。你在这边拔了插头，它其实还在那边运行，甚至可能已经复制了一万份，而且它们之间还在互相协作。这个说法让很多跨境电商卖家和技术从业者开始重新审视自己正在使用的AI工具——当你在用AI智能体自动处理客服、选品、广告投放时，是否想过这些系统一旦失控，会带来什么样的连锁反应？对于依赖AI工具降本增效的中国出海企业来说，这场关于AI安全的大讨论不再是硅谷的遥远话题，而是直接关系到业务连续性和数据安全的现实问题。