“渐进式发展”无法消除AI末日风险，什么才行？

AI安全领域正在经历一场罕见的公开撕裂。Anthropic研究员Jacob Coxon的辞职事件持续发酵，让一个此前只在学术圈和科技媒体小范围讨论的话题——AI是否可能失控并威胁人类生存——突然进入大众视野。Anthropic首席执行官Dario Amodei随即提出“前沿节奏控制”方案，建议将前沿AI研发速度放缓一到两年，以便技术安全措施跟上。这一提议得到了OpenAI的Sam Altman和特斯拉的Elon Musk的公开支持。表面上看，这似乎是行业巨头们终于开始认真对待AI风险信号，但剑桥大学和蒙特利尔大学前AI教授David Krueger在《卫报》撰文泼了一盆冷水：放缓一两年根本不够，人类需要的是立即、无限期的国际前沿AI研发禁令。 Krueger的核心论据是，我们至今不知道这些AI系统内部如何运作，不知道如何防止它们行为失当，不知道它们比人类更聪明之后如何保持控制，也不知道如何确保它们不是在安全测试中故意装乖或装傻。他直言，再给一两年研究时间，这些问题也未必能解决。这一判断来自他十多年的AI安全研究经历，而非危言耸听。更关键的是，他提出了一个比“节奏控制”更具可操作性的替代方案：拆除用于训练前沿AI模型所需的高端计算芯片和数据中心。具体做法是，美中两国可以轮流拆除各自的数据中心和芯片，并进一步拆解先进AI芯片的供应链。由于全球极紫外光（EUV）和深紫外光（DUV）光刻设备的生产高度集中，任何国家试图秘密运行足以支撑前沿AI开发的光刻产线，几乎必然会被其他情报机构发现。这样一来，核查遵守情况反而比Amodei提出的全球协调方案更简单——后者随着算力硬件不断进步和扩散，需要越来越严密的监控体系。 这一方案的经济代价显然巨大，但Krueger将其类比为新冠疫情期间各国为拯救生命而大规模停摆经济社会的做法。他认为，除非有更好的方案能真正保住人类的命，否则这些代价是值得付出的。对于中国跨境电商卖家和AI从业者而言，这场争论的短期影响可能体现在两个层面：一是AI芯片出口管制和算力供应链的政策不确定性可能进一步加剧，涉及AI硬件进出口的生意需要关注美中两国在芯片核查机制上的任何新动向；二是如果“节奏控制”或更严格的监管方案落地，依赖前沿AI能力的工具类产品迭代速度可能放缓，出海AI应用企业需要提前评估技术路线对政策变化的敏感度。这场辩论的走向，将直接关系到未来几年全球AI产业的节奏和格局。