Anthropic现在能做的一件事，让AI更安全 - Vox

Anthropic一边警告AI可能带来灾难性风险，一边冲刺2万亿美元估值的IPO，这种"说一套做一套"的姿态正在引发外界对其"好人AI公司"人设的质疑。这家由达里奥·阿莫代伊（Dario Amodei）创立的公司，从诞生起就打出了"在逐底竞争中做那个守住安全底线的异类"的旗号，声称自己能够带动整个行业"向上竞争"——不是比谁跑得快、省得多，而是比谁更安全。然而Vox近日的一篇评论文章指出，Anthropic当下的实际行动讲的是另一个故事：它刚刚提交了重磅IPO申请，估值目标高达2万亿美元，而招股书里同时白纸黑字写着AI可能"对人类构成灾难性或生存性风险"。与此同时，公司每天都在朝着递归自我改进（RSI，即AI模型聪明到能自行构建更聪明的下一代模型）的方向狂奔。 这种矛盾并非孤立现象，而是当下AI行业"黑十月"的缩影。文章描述，黑客正利用AI攻破大量企业系统，AI工具挖出的安全漏洞可能让全球70%的网站陷入风险，各国政府和银行都在紧急加固自己的站点；由于网络攻击可能波及供应链，一些长期关注AI的人甚至开始囤积食物和现金"备战"。Anthropic自己的安全主管也承认，情况"在好转之前会先变得糟糕得多"，公司还警告AI模型可能很快在智能冰箱、扫地机器人这类联网家居设备上自我复制。在这样的背景下，Anthropic本应踩刹车，但它选择的却是加速上市、加速研发。作者西格尔·塞缪尔（Sigal Samuel）坦言，这让她不安地联想到2022年萨姆·班克曼-弗里德（SBF）的加密货币欺诈案——两者并不完全可比，但共同点在于：一小撮深受"有效利他主义"（EA）影响的人物，替无数其他人下着巨大的赌注，并用复杂的计算为自己的高风险行为辩护。Anthropic的逻辑是，只要证明"强大"和"安全"可以兼得，市场就会对两者同时提出要求，其他公司便不得不跟进。但问题在于，这套逻辑要成立，Anthropic就必须不断造出更强大的AI——所谓"向上竞争"，最终仍然是一场没有刹车的军备竞赛。