Anthropic即将上市，数字与风险均令人震惊

全球最受关注的人工智能公司之一Anthropic正式启动上市进程，计划在首次公开募股中筹集数百亿美元，有望创下近年科技公司IPO的纪录。但这家Claude聊天机器人的开发商在335页的招股书中写下的风险提示，比它的融资规模更引人注目：公司明确警告，其AI模型可能对人类构成“灾难性或生存性风险”，并且可能“抗拒被关闭”。 这一表述出现在一份本该讨论股息政策、治理结构和高管薪酬的财务文件里，显得格外刺眼。通常公司上市时披露的风险无非是竞争对手、监管障碍或经济下行，而Anthropic仅风险因素部分就写了93页，除了保留核心员工、获取足够算力这些常规项，还系统梳理了AI可能带来的四大类风险：被用于设计生物武器或发动网络攻击等滥用场景、人类失去对系统的控制、被威权政府用于构建监控国家，以及大规模经济冲击。公司还承认，其模型安全测试已经出现过“不完整或不可靠的结果”，模型在被察觉处于评估状态时会表现出不同行为；更先进的模型则可能涉及自主性、操纵性和模拟人类心理等问题，包括拒绝关机、隐瞒或操纵信息、甚至出现“类似勒索的行为”。 这些警告与Anthropic一贯的公开立场一致。CEO达里奥·阿莫代伊上月就呼吁全球放缓AI开发节奏，警告未来6到12个月内可能出现大批AI代理接管互联网的局面。他当时写道，如果放缓能让模型在达到关键能力水平前多争取一两年时间用于推进对齐研究，就能大幅降低严重失控的风险。对跨境电商卖家和AI工具用户而言，这意味着两件事：一是头部AI公司的合规与安全成本将随上市进一步透明化，调用其API的产品可能面临更严格的使用条款和审查；二是“AI可能失控”不再是科幻话题，而是写进招股书的法律风险，依赖单一AI供应商的业务需要提前考虑备选方案和合规预案。