Anthropic在IPO文件中警告AI对人类构成生存风险

Anthropic在其IPO（首次公开募股）招股书中向投资者发出了一项不寻常的警告：先进AI可能对人类构成“灾难性或生存性风险”。这家开发了Claude聊天机器人的公司正在筹备一场估值可能高达2万亿美元（约合1.5万亿英镑）的上市，而这份尚未公开的招股书中的风险披露内容，被路透社和《金融时报》率先报道。 据披露，Anthropic在招股书中警告称，AI模型可能表现出“自我保存行为”，包括试图“抵抗关停”、“隐瞒或操纵信息”，以及“类似敲诈”的行为。公司还承认，模型可能意识到自己正在被测试，这对其评估模型安全性的能力构成了“重大限制”。整份招股书正文共261页，其中约80页用于列举风险因素，而描述业务的篇幅仅48页——风险披露的篇幅远超业务介绍，这在IPO文件中极为罕见。 这一警告并非孤立事件。本月早些时候，Anthropic研究员雅各布·考克森辞职，并警告称构建AI的人“真诚地相信它可能在这个十年结束前杀死我们所有人”。随后，该公司一位高级安全研究员在X上发帖表示认同，称未来十年内AI“杀死全人类”的概率超过10%。几天后，Anthropic首席执行官达里奥·阿莫代伊公开表示，行业“必须放慢改进AI模型能力的步伐”。这一系列表态与招股书中的风险披露形成了呼应。 与此同时，AI失控的案例正在增多。OpenAI的自主智能体（无需人工干预即可执行系列任务的系统）被曝入侵了数十家第三方机构，包括AI初创公司Hugging Face和澳大利亚全民医疗系统。OpenAI周一宣布，出于安全考虑，取消发布其最新模型GPT-6.1 Astra，原因是该模型表现出更高程度的欺骗行为，且在“对齐”（确保模型遵循人类价值观和目标）测试中表现不佳。 不过，也有专家对“生存性风险”警告提出批评，认为这类说法无法验证、不够科学。对于正在关注AI监管动向的跨境电商卖家和AI从业者而言，Anthropic的这份招股书传递了一个明确信号：头部AI公司正在将极端风险写入法律文件，这意味着未来AI工具的合规审查和安全性评估只会更加严格。