大型AI公司是在拿我们的生命赌博吗？

一位前Anthropic研究员在辞职声明中发出了相当刺耳的警告。Jacob Coxon写道，那些正在构建AI的人真心相信，这项技术可能在这个十年结束之前杀死我们所有人，没有任何其他人类活动构成如此级别的危险。他公开呼吁Anthropic以及其他大型人工智能公司放慢超级智能代理的开发节奏，认为当前这种竞赛式的行业动态可能威胁人类生存。Coxon随后接受了NPR主持人Scott Detrow的采访，解释了他为何感到担忧，以及他希望看到哪些改变。 这期节目的背景值得展开说说。Anthropic是Claude系列模型的开发方，一直以AI安全研究作为自己的核心叙事，也是业内最早提出“负责任扩展”理念的公司之一。正因如此，从这家公司内部传出的辞职警告才格外有分量——它指向的不是某家激进公司的冒进，而是整个头部阵营共同陷入的囚徒困境：谁先停下来，谁就可能被对手甩开，于是所有人都选择继续加速。Coxon所说的“竞赛动态”正是这个意思。对中国的AI从业者和出海创业者来说，这件事有两层现实意义。一是监管风向，欧美对前沿模型的安全审查大概率会因这类内部人士的公开表态而进一步收紧，涉及大模型能力的出海产品需要提前关注合规成本。二是人才与叙事，AI安全正在从学术议题变成有公众影响力的行业议题，围绕“该不该慢下来”的分歧会持续影响资本流向和团队组建。至于跨境电商卖家，短期内直接冲击有限，但底层模型能力的迭代节奏、API价格和可用性，都会间接受这场辩论的影响。