为何AI专家造出令自己恐惧的技术——《商业内幕》

过去两年，AI圈最让人费解的一幕是：一边高喊"AI可能毁灭人类"的人，一边在拼命把AI做得更强。Anthropic的达里奥·阿莫代伊和OpenAI的山姆·奥尔特曼是最典型的代表。资深科技记者凯文·鲁斯在新书《AGI编年史：创造人工超级智能竞赛的内幕》中给出了一个解释：这些人之所以疯狂加速，恰恰是因为他们害怕。他们相信，如果自己停下来，某个更不负责任的人或团队迟早会造出同样强大的系统，而到那时世界会更危险。所以他们给自己的叙事是——"好人"必须赢下这场竞赛，否则后果不堪设想。鲁斯在采访中直言，这种逻辑未必正确，但确实是这些AI领袖说服自己参与危险游戏的核心理由。 这种"恐惧驱动加速"的心态在旧金山并非小众。鲁斯提到，在当地的科技圈里，认为AI导致人类灭绝概率超过50%的人并不罕见。他们担心的不只是"末日"这一种结局，而是一整条风险光谱：P(doom)代表人类灭绝概率，此外还有P(disempowerment)——人类被系统性剥夺权力，P(pandemic)——AI被用来制造生物武器引发大流行，以及P(jobloss)——大规模失业。这些术语在圈内像病毒一样传播，反映出一种深层的焦虑文化。批评者常指责阿莫代伊和奥尔特曼夸大末日论调，目的是为自己的生意造势、争取监管话语权。但鲁斯认为，这种担忧在AI核心圈子里是真实且普遍的，不能简单归结为营销话术。 对中国的跨境电商卖家和AI从业者来说，这件事有两层现实意义。第一，AI能力的军备竞赛短期内不会减速，因为驱动它的不是单纯商业利益，而是"谁先造出超级智能谁就掌握主动权"的战略焦虑。这意味着模型能力、Agent工具、自动化运营方案会持续快速迭代，跨境卖家在选品、客服、广告投放、物流优化等环节能用的AI工具会越来越多、越来越强，但同时也意味着平台规则和监管环境会不断变化。第二，鲁斯提到的"奥本海默时刻"值得警惕——当年参与曼哈顿计划的科学家在造出原子弹后才开始反思，而今天的AI领袖们是在造之前就已经在公开讨论风险。这种"边害怕边加速"的模式，最终会把行业带向自我监管还是更严格的政府干预，目前仍是未知数。对出海企业而言，与其等待监管尘埃落定，不如尽早建立自己的AI工具使用规范和风险预案，在效率与合规之间找到平衡。