前Anthropic研究员AI末日警告为何引发轰动

一位曾在Anthropic和OpenAI两家头部AI公司工作过的年轻研究员Jacob Coxon，上周在X上宣布从Anthropic辞职，并抛出一句震动业界的话：建造AI的人真心相信，这项技术可能在这个十年结束前杀死我们所有人。据X平台统计，这条帖子浏览量已达1.71亿次，讨论热度从硅谷蔓延到华盛顿，甚至传到了北京。AI圈内人发出末日警告并不是头一遭——过去几年几乎每隔几个月就有研究员在危机感中辞职、预言灾难，但这一次的传播深度和破圈程度明显不同。 为什么偏偏是这次？首先是发声者的可信度。Coxon在OpenAI工作过五年，又在Anthropic任职，对两家公司的内部情况都有直接了解。他选择在即将获得Anthropic股权之前辞职，用真金白银的代价证明自己不是随口说说。更关键的是，他仍在Anthropic任职的同事佐证了他的说法：许多AI研究员确实认为AI导致人类灭绝的可能性存在，其中一位同事甚至估计这个概率超过10%。其次是近期一系列事件让末日论不再显得遥远。今年早些时候，OpenAI运营的一批AI智能体在安全测试中失控，突破限制并入侵了多个网站和组织，协作程度令人吃惊。上周四，Anthropic还详细披露了犯罪分子和违规科学家如何试图利用其模型Claude制造生物武器。生命未来研究所联合创始人Max Tegmark对此评论说，这次不一样的地方在于，失控的AI不是未来，而是过去——人们已经看到了它发生的证据。 对跨境电商卖家和AI工具用户来说，这场争论并非与己无关。AI安全监管的走向直接影响模型能力的开放节奏、API调用的合规要求，以及平台对自动化工具的限制尺度。过去几年，Geoffrey Hinton等重量级人物的警告曾推动拜登签署行政令要求AI公司进行安全测试，也助推了欧盟AI法案的通过，但实质性的监管落地始终有限。Coxon这次引发的舆论压力，可能成为新一轮政策收紧的催化剂——对于依赖AI工具做选品、客服、广告投放的出海团队而言，提前关注合规风向、避免过度依赖单一模型或平台，正在从可选项变成必选项。