AI发展放缓——达里奥·阿莫代伊——《理性》杂志

上周，AI行业内部爆发了一场罕见的公开争论。Anthropic多名员工在社交媒体上接连发声，其中预训练研究员Jacob Coxon宣布辞职，并直言OpenAI和Anthropic“都没有负责任地行事”，正在“径直冲向自我进化的超级智能，拿我们的生命赌博”。另一位Anthropic员工Evan Hubinger更是给出了惊人判断：他个人认为未来十年内AI导致人类灭绝的概率超过10%，而Anthropic“目前还没有解决超级智能对齐问题的方案”。安全团队成员Drake Thomas则表示，愿意“毫不犹豫地烧掉自己的股权，只为换取1%的存活概率”。这些言论迅速发酵，将AI安全争议推到了舆论中心。 这场风波的核心人物其实是Anthropic CEO Dario Amodei。他在上周末发布了一篇题为“我们必须放慢前沿”的文章，呼吁全球AI开发者集体减速，理由是存在“失去对AI系统控制”以及“AI被用于网络攻击和生物恐怖主义”的风险。他特别提到，递归自我改进——即AI系统设计或训练自己的继任者——必须“极其谨慎地推进，甚至根本不应该做”。这一表态迅速得到了OpenAI的Sam Altman、Google DeepMind的Demis Hassabis以及xAI的Elon Musk的联署支持。与此同时，美国前总统奥巴马被曝私下敦促众议院少数党领袖Hakeem Jeffries制定AI监管方案，并呼吁民主党在2028年大选前拿出明确的AI监管计划。 但并非所有人都买账。知名风险投资人David Sacks公开反驳，措辞相当尖锐。他指出，Amodei等人“不要再假装需要别人的许可，不要再假装反垄断法必须被暂停以便你们组成卡特尔，不要再假装需要一个凌驾于产品责任之上的监管审批流程”。Sacks还特别点出，非营利机构METR（模型评估与威胁研究）与Anthropic的投资人和员工关系密切，却要负责评估竞争对手，这种独立性值得怀疑。他最后抛出一个关键判断：OpenAI和Anthropic面临巨大的产品责任风险——如果他们的产品被用于真正具有破坏性的网络攻击，法律后果将非常严重。市场已经在惩罚那些行为不可预测或未经授权的模型。对这两家公司来说，用一部分原始能力换取可靠性和可预测性，本身就是一笔好生意。“你想叫它对齐就叫吧，这同时也不过是给客户他们想要的东西。” 这场争论对跨境电商和AI从业者来说并非远在天边的口水战。如果Amodei的“全球减速”倡议真的转化为监管行动，AI模型的迭代速度、API的开放程度、以及基于大模型构建的选品、客服、广告投放等工具都可能受到影响。而Sacks的反驳则代表了另一种声音：市场本身会惩罚不可靠的AI，不需要额外的监管层。对于依赖AI工具降本增效的中国出海卖家而言，这场博弈的走向将直接决定未来几年能用上什么样的AI能力，以及以什么成本用上。