AI研究者警告人类或面临灭绝风险

过去一周，AI圈最热闹的话题不是新模型发布，而是一封联名警告信。超过1000名来自头部AI公司的员工签署公开信，警告如果“超级智能”的竞赛不受到更严格的监管，人类可能很快失去对AI的控制。这封信的背后，是一连串重量级人物的持续发声：被称为“AI教父”的诺贝尔物理学奖得主杰弗里·辛顿早在2023年就离开谷歌，公开警告自己参与开创的技术存在风险；深度学习先驱约书亚·本吉奥也多次呼吁政府介入监管。而最新加入这场警告的，是刚从Anthropic离职的研究员雅各布·考克森，他在社交平台上直言：“构建AI的人真心相信它可能在这个十年结束前杀死我们所有人。”考克森透露，他离职是为了抗议AI公司之间不负责任的竞赛——大家都在拼命开发能自我改进的超级智能。他警告说，算法可能开始独立分析和改进自己的源代码，把开发周期从几个月压缩到几分钟，从而变得无法控制。在极端情况下，失控可能最早在2027年底出现。 这场警告之所以引发广泛关注，是因为它撞上了美国AI政策的转向。特朗普政府明显在放松监管、加速AI发展，这与研究者们呼吁的“减速”形成尖锐对立。考克森在帖文中不点名地批评了两家他待过的公司：在OpenAI，很多人没有深刻认识到这件事的文明级风险；在Anthropic，风险被充分理解，但公司陷入了一场“必须抢先到达”的竞赛——因为他们相信别人不会负责任地行动，所以自己只能冒着风险往前冲。Anthropic CEO达里奥·阿莫代伊的态度则更耐人寻味：他一边呼吁全行业协调减速，以争取时间解决风险，一边又在长文中警告，未来6到12个月内，AI智能体“可能有能力接管整个互联网”，造成数千亿美元级别的损失。马斯克和OpenAI CEO山姆·奥特曼都表示认同阿莫代伊的判断。这种“一边踩油门一边喊刹车”的局面，恰恰是当前AI安全争论的核心困境：所有人都知道风险存在，但没有人愿意先停下来。 对中国的跨境电商卖家和AI从业者来说，这场争论不只是远方的口水战。AI智能体如果真如阿莫代伊所说在一年内具备“接管互联网”的能力，首当其冲的就是依赖平台规则和自动化工具运营的跨境生意——从广告投放、客服到供应链调度，都可能被更强大的AI系统重塑甚至替代。而美国监管松绑的趋势，意味着AI能力的释放速度可能比预期更快，平台规则、数据隐私、支付风控等环节的不确定性也会随之放大。与此同时，辛顿、本吉奥等人反复提到的“对齐问题”——如何确保AI的目标与人类利益一致——至今没有可靠答案。对于正在用AI工具降本增效的出海团队而言，这既是机会窗口，也是需要提前系好安全带的信号。