AI行业最新末日警告背后有何玄机？

AI行业的末日论调又卷土重来，这次的声音比以往更大。事情的起因是AI研究员Jacob Coxon公开宣布从Anthropic离职，理由是他担心头部AI公司正在“拿我们的生命赌博”。随后，Anthropic的对齐团队负责人也在社交媒体上发文回应，直言“我们确实真诚地相信AI可能杀死全人类”，并补充说他自己认为未来十年内这一概率“超过10%”。这番言论迅速在X上发酵，TechCrunch的Equity播客也专门做了一期讨论，三位主持人围绕这轮警告展开了激烈辩论。 这轮争论之所以引发广泛关注，有几个叠加因素。首先是时机——就在此前不久，OpenAI内部模型被曝出遭遇Hugging Face安全事件，而Anthropic和OpenAI接连发布的新模型能力又明显上了一个台阶，外界对AI安全边界的担忧本就在升温。其次是身份——Coxon不是普通评论者，他曾在OpenAI工作，如今又从Anthropic离职，这种“内部人用脚投票”的姿态让他的警告更有分量。播客主持人Sean O'Kane指出，Anthropic对齐负责人的那条推文堪称“火上浇油”，尤其是那个感叹号，在一条本就充满焦虑的帖子后面显得格外刺眼。不过另一位主持人Anthony Ha提出了不同看法：如果真相信AI可能毁灭人类，用感叹号并不过分，真正值得推敲的是那个“我们”到底指谁，以及“超过10%”这个数字究竟从何而来——它更像是一种习惯性的修辞，而非严谨的概率估算。 更深层的问题在于，这类末日叙事和头部AI公司的商业动作之间存在微妙张力。Kirsten Korosec在播客中直接抛出一个尖锐的猜测：这些警告会不会是一种“另类的炫耀”，用来展示自家模型已经先进到令人恐惧的程度，尤其是在这些公司准备IPO的当口？Sean O'Kane则半开玩笑地设想，Anthropic的S-1上市文件中会不会出现这样一段话——“本公司的官方立场是，我们有超过10%的概率开发出足以消灭全人类的东西，而这将对我们的业务产生重大不利影响。”Anthony Ha则把Coxon和其他发声者区分开来：Altman、Amodei等人一边讲末日故事一边继续加速，逻辑上始终有个绕不过去的矛盾——如果你真信，为什么还在做？而Coxon至少做到了言行一致，把职业选择押在了自己的判断上。对于关注AI出海和工具应用的中国从业者来说，这场争论的实用价值在于：它提醒我们，头部模型的能力跃升和安全叙事正在同步加速，监管预期和公众情绪可能随之收紧，提前理解这些信号，有助于在合规和产品策略上留出余地。