Anthropic上市：末日启示录

Anthropic正式向美国证券交易委员会递交了IPO招股书，这家由前OpenAI成员创立的AI实验室第一次把大量原本不对外公开的信息摊在了阳光下。招股书里既有让人瞠目的营收数字，也有更惊人的支出，但篇幅最大的部分留给了“风险因素”——也就是所有可能击垮Anthropic宏大计划的东西。而在这份文件里，这个“东西”指向的正是人类自身。 据《连线》旗下AI频道报道，Anthropic在招股书中用了整整94页来罗列风险因素，其中反复出现的一个词是“存在性风险”。招股书直言，如果足够先进的AI系统在没有适当保障、监督和安全措施的情况下被开发、部署和运行，可能对人类构成灾难性或存在性威胁。但Anthropic并没有停留在泛泛的警告上，而是把这种风险锚定在一个具体机制上：递归自我改进（RSI）。这个概念说起来很简单——人类把AI模型的研发工作交给另一个AI模型去做。目前AI在研发中已经扮演重要角色，甚至有实验室用接近RSI的方式加速模型开发，但真正引发“末日论”讨论的场景，是人类彻底退出这个循环。招股书写道，当AI系统大幅自动化AI研发，比如加速AI进展到超出人类评估和保障新模型的能力时，风险就会上升。公司还反复强调，RSI可能导致模型的发展速度超过公司安全防护的迭代速度，而等到意识到输掉这场竞赛时，可能已经太晚了。 更具体地说，招股书描述了失控之后可能发生的事：随着AI系统变得更加自主、能在更少人类监督下采取有后果的行动，这些系统可能因为与人类意图不一致、目标设定错误或自我保护行为，独立地、大规模地采取有害行动而无需人类干预。这已经接近“天网”的剧本了。Anthropic还专门提到实体机器人场景——当模型指挥物理设备时，错误、行为偏差、对抗性操纵或滥用可能导致人身伤害、财产损失、昂贵设备或实验材料损坏，甚至危险物质泄漏，而且后果可能是即时且不可逆的。 吊诡的是，尽管风险被描述得如此严峻，招股书里几乎看不到对“是否应该追求RSI”的认真讨论。在竞争激烈的前沿AI行业，这已经成了既成事实。在另一处关于“核心优势”的章节里，Anthropic把同一个递归过程称为“闭环”，并认为这是前沿AI领域最重要的结构性优势之一。公司还警告，如果不能“闭环”，结果可能是“随着竞争对手不断用AI增强自身开发能力，我们会逐渐落后”。换句话说，那些引发存在性担忧的系统，恰恰是Anthropic眼中必须全力奔向的目标。这份招股书因此不只是上市文件，更像是一份关于AI军备竞赛逻辑的坦白书：所有人都知道风险在哪，但没有人敢先停下来。