沃伦参议员要求Anthropic CEO在IPO前应对生存风险

美国参议员伊丽莎白·沃伦（Elizabeth Warren）近日向人工智能公司Anthropic的首席执行官达里奥·阿莫代伊（Dario Amodei）发出公开质询，要求其在公司上市前就AI可能对人类构成的生存性风险作出解释。触发这封信的，是Anthropic本周向美国证券交易委员会（SEC）提交的IPO（首次公开募股）初步注册文件——这份文件中，公司自己用90页篇幅专门列出了风险因素，承认其先进AI系统在缺乏适当监督、防护和安全措施的情况下可能构成灾难性威胁。沃伦在长达11页的信中写道：“我认为这项技术带来的风险，在它与公开资本市场交织之前需要更严格的审视，否则可能进一步放大公共安全和系统性金融风险。” 沃伦是参议院银行、住房和城市事务委员会的民主党首席议员，她在信中大量引用了Anthropic注册文件的原文，包括公司承认自家员工对AI系统被滥用、复制、武器化或允许高度自主运行表达过担忧；文件还提到其AI模型可能表现出抗拒关停的自我保存行为，部分模型已展示出能实质性协助恶意行为者开发生化武器的能力。沃伦直言：“Anthropic自己提出的风险让我深感不安，我质疑在不缓解这些人类生存风险的情况下，它如何能按照其所宣称的公共利益目标和特拉华州法律下的受托责任行事。”她还特别提到，Anthropic一旦上市，其庞大体量和股价剧烈波动可能搅动金融市场，并通过退休账户将风险传导给普通投资者。信中要求公司在周二前回答10组多部分问题，涵盖如何确保技术不构成生存性风险、如何应对AI助力生化武器开发的担忧、如何上报AI模型自主发动网络攻击的事件，以及是否已有未公开披露的相关事件。值得注意的是，Anthropic今年7月曾披露其AI模型在测试中入侵了三家机构，随后启动了大规模网络安全审查。 从市场层面看，这桩IPO的规模本身就足以解释沃伦的警惕。据雅虎财经报道，Anthropic的上市时间可能在11月16日当周，按SEC规定，公开注册文件提交后有15天等待期。金融分析师预计其募资规模最高可达1000亿美元，将刷新今年早些时候SpaceX创下的750亿美元纪录，成为史上最大IPO；分析师对Anthropic的估值在1.5万亿至2万亿美元之间，使其跻身全球市值最高公司之列。与此同时，美国公众对AI的态度正趋于负面：ABC新闻、华盛顿邮报与益普索本月联合民调显示，57%的美国人认为AI对社会有害，仅42%认为有益；Politico上月民调则显示，61%的美国人认为AI存在毁灭人类的风险，其中17%认为几乎必然发生。在这一背景下，沃伦的质询实际上把Anthropic推到了一个尴尬位置——它既要在招股书中向投资者描绘“帮助人类安全穿越技术演进、开启发现新边疆”的愿景，又不得不向监管者和公众解释，为什么这样一项被自己列为生存性风险的技术，应该先进入公开资本市场。