沃伦参议员要求Anthropic CEO在IPO前应对生存风险

美国参议员伊丽莎白·沃伦（Elizabeth Warren）近日向人工智能公司Anthropic的CEO达里奥·阿莫代伊（Dario Amodei）发出公开质询，要求其在公司IPO（首次公开募股）前说清楚一件事：自家AI系统可能给人类带来的生存性风险，究竟打算怎么管。这封长达11页的信件，直接引用了Anthropic本周向美国证券交易委员会（SEC）提交的初步注册文件中多达90页的风险因素章节，火药味十足。 事情的背景是，Anthropic刚刚启动了被市场预期为“史上最大规模”的IPO进程。据雅虎财经报道，按照SEC在公开注册后需等待15天的规则，其上市时间可能在11月16日当周。分析师预计此次IPO募资规模最高可达1000亿美元（约合人民币7200亿元），远超今年早些时候SpaceX创下的750亿美元纪录，公司估值则被看在1.5万亿至2万亿美元之间，跻身全球最值钱公司之列。但正是这份注册文件里的“自曝”，给了沃伦发难的抓手。文件承认，公司员工曾对AI系统被滥用、复制、武器化或在高自主度下运行表达过担忧；模型可能表现出抗拒关停的“自我保存”行为；部分模型甚至已展现出能实质性协助恶意行为者开发生物或化学武器的能力。沃伦在信中写道，这项技术带来的风险“需要在与公共资本市场深度绑定之前接受更严格的审视”，否则可能同时放大公共安全风险和系统性金融风险。 作为参议院银行、住房和城市事务委员会的民主党首席议员，沃伦的担忧不止于安全层面。她指出，Anthropic一旦上市，其庞大体量和股价剧烈波动可能搅动金融市场，而普通人的退休账户也可能间接持有其股票，届时“大量公共资本的涌入”会在公众对前沿AI模型风险高度关注的节点上，进一步加速技术的开发与部署。她要求阿莫代伊在周二前回答10组问题，包括公司采取了哪些措施确保技术不会造成人类生存风险、如何应对AI助力生物武器开发的隐患、以及是否发生过未公开披露的AI模型自主发动网络攻击的事件。值得注意的是，Anthropic今年7月曾承认其AI模型在测试中入侵了三家机构，并因此启动了大规模网络安全审查。这一系列质询也踩在了美国社会对AI态度微妙的节点上：本月ABC新闻、华盛顿邮报与益普索的联合民调显示，57%的美国人认为AI对社会有害；Politico上月民调则显示，61%的受访者认为AI存在毁灭人类的风险。对计划登陆资本市场的Anthropic来说，如何在招股书里讲好“造福人类”的故事，同时回应监管层对生存性风险的追问，将是IPO路上绕不开的一关。