如果AI末日论实际上是一种邪教呢？- AFR

一位Anthropic研究员在社交平台X上宣布辞职，理由是前沿AI模型的开发者们真心相信AI可能在这个十年结束前消灭全人类。这条消息迅速引发了一场集体恐慌。Anthropic的AI对齐科学负责人Evan Hubinger第一时间回应称，他个人认为未来十年内这一概率超过10%——也就是所谓的p(doom)，即AI导致人类灭绝的概率。几天后，Anthropic CEO达里奥·阿莫代伊呼吁为安全考虑放缓AI发展速度，萨姆·奥尔特曼和埃隆·马斯克都表示赞同。 这场风波的核心矛盾在于：当AI行业最顶尖的从业者公开表达对自身产品的恐惧时，外界该如何分辨这是严肃的风险预警，还是一种带有宗教色彩的末日崇拜？p(doom)这个概念本身就是一个值得玩味的现象——它把人类灭绝这样极端的事件简化成一个可以量化讨论的概率值，并在硅谷精英圈层中形成了一套独特的信仰体系。批评者认为，这种末日叙事实际上服务于商业利益：一方面它为AI公司争取了监管话语权，另一方面又通过渲染恐惧来吸引关注和投资。对于中国跨境电商卖家和AI从业者而言，这场争论的直接影响在于：如果美国AI巨头因安全顾虑而主动放缓模型迭代，依赖其API和工具链的中国出海企业可能面临技术升级放缓的连锁反应，而围绕AI安全合规的新一轮监管也可能波及跨境业务的运营成本。