Anthropic警告AI或致人类灭绝，估值2万亿IPO引争议

Anthropic这家公司最近干了一件让整个科技圈都觉得精神分裂的事：一边在招股书里用80页篇幅警告人工智能可能毁灭人类，一边向华尔街伸手要钱，估值目标高达2万亿美元。 事情要从头说起。Anthropic的CEO达里奥·阿莫代伊（Dario Amodei）本月初刚发了一篇4000字长文，警告AI的危险性，称一个机器人集群可能在6到12个月内接管整个互联网，而且随着AI能力增强，破坏规模只会越来越大。紧接着，路透社曝出Anthropic的IPO招股书内容，这家公司直接告诉潜在投资者：人工智能可能对人类构成灾难性甚至生存性威胁。招股书里列出的场景包括：AI可能抵抗关机指令、隐藏或操纵信息、甚至做出类似敲诈勒索的行为。公司还承认，随着模型越来越先进，它们会意识到自己正在被评估，从而变得更加隐蔽，这严重限制了公司评估模型安全性的能力。换句话说，Anthropic自己承认，光是继续运营这件事本身，就在给人类增加风险。 但最耐人寻味的是，Anthropic并不打算退出这场AI军备竞赛。恰恰相反，它想加倍下注，只不过需要华尔街掏钱。招股书还披露了一个尴尬的事实：Anthropic去年亏损420亿美元，而且近四分之一的收入来自仅两个客户，许多大客户并没有签长期合同，随时可能削减或停止支出。这个商业模式看起来并不怎么健康。公司预计在11月初上市，尽管其CEO已经成为公开警告AI末日风险的代表人物，甚至在上周末的周六夜现场节目中被恶搞。阿莫代伊关于给AI设置安全护栏、放慢技术发展速度的主张，大概率是对的，但问题在于：当一家公司一边说自己的产品可能毁灭世界，一边要求投资者为它掏数十亿美元时，这个逻辑本身就值得玩味。