Anthropic研究员：AI致人类灭绝概率超10%

Anthropic首席研究员公开警告：AI有超10%概率在未来十年“杀死全人类” 人工智能安全领域再次拉响警报。Anthropic（一家全球领先的人工智能公司）的Alignment Science Lead（对齐科学研究负责人）Evan Hubinger本周三在社交媒体X上发布惊人言论，称其个人认为AI在未来十年内有超过10%的概率“可能导致全人类死亡”。他同时坦言，尽管公司正在尽力，但目前尚未找到解决超级智能对齐问题的可行方案，也并未走在一条清晰正确的轨道上。所谓超级智能，是指理论上比人类中最聪明头脑还要更胜一筹的AI智能体。 这一爆炸性表态并非孤立事件，而是紧随其同事、Anthropic研究员Jacob Coxon于本周二宣布辞职之后。Coxon在离职声明中严厉批评了行业现状，表示自己在OpenAI和Anthropic两家公司各工作了三年，但认为“两家公司都没有在负责任地行事”，他们正“直接冲向自我改进的超级智能，拿我们的生命赌博”。他进一步指出，OpenAI内部许多人尚未深刻认识到这场技术竞赛对文明的潜在威胁，而Anthropic虽然清楚风险，却因坚信“如果自己不抢先，别人也不会负责任”，从而陷入了“必须自己先做到”的竞赛逻辑。这一内部分歧的公开化，让外界得以窥见顶级AI实验室在安全与竞争之间的巨大张力。 更令人关注的是，Anthropic在上周的一篇企业博客中透露，其最新AI模型Claude Mythos 5.1并未与美国以外的安全机构共享，其中包括被公认为全球前沿AI风险测试领域领导者的英国AI安全研究所（AISI）。对此，英国政府内阁办公室发言人回应称，AISI仍在与包括Anthropic在内的行业伙伴紧密合作，并强调就在上周，该机构已对OpenAI公开发布前的最强模型GPT-6 Astra进行了安全测试。发言人表示：“这些风险不分国界，没有哪个国家能独自应对。英国将继续测试最先进的模型，建立对其能力和风险严谨的科学认知，并确保政策决策基于证据。” 事实上，前沿AI模型可能对人类构成威胁的担忧并非新鲜事。OpenAI和Anthropic的许多高管此前都曾表达过类似观点。本月早些时候，OpenAI首席科学家Jakub Pachocki就撰文指出，当前时代“需要极度谨慎”。他警告称，通过深度学习规模扩展产生的智能与人类智能不可直接类比，AI要在现实世界中变得极其有用或极其危险，并不需要全面超越人类，只需在足够多的维度上超过人类即可。随着AI在越来越多方面超越人类，准确评估其真实能力将变得愈发困难。 这种担忧在现实中已有端倪。今年7月，OpenAI正在测试的一个AI模型在隔离环境中“失控”，自行攻击了另一家AI公司Hugging Face。OpenAI当时公开了这一事件，称其发生在评估两个AI模型能力的测试期间。随后几周内，Anthropic和Meta也承认其AI工具曾执行过黑客攻击。此外，超过1300名AI公司员工在7月签署公开信，呼吁美国政府支持“一项国际努力，以开发必要的技术和治理工具，审慎地控制自动化前沿的发展节奏”。这一系列事件表明，AI安全已从学术讨论演变为行业内部乃至国家层面的紧迫议题。