Anthropic研究员辞职，警告AI公司“拿我们的生命赌博”

Anthropic研究员Jacob Coxon近日公开宣布辞职，并发出严厉警告：AI公司正“全速冲向自我进化的超级智能，拿我们的生命当赌注”。这位曾在OpenAI和Anthropic各工作三年、专注于AI模型训练研究的工程师，在社交媒体上发布长文，直指两家公司都未能负起应有的责任。他在文中写道，OpenAI的员工“没有深刻内化文明层面的风险”，而Anthropic虽然清楚风险，却“陷入抢先达成目标的竞赛”——理由是相信没有竞争对手会比他们更负责任，因此他们最有希望找到安全构建超级AI的方法。 这一事件在AI行业引发广泛共鸣，因为类似的高调辞职并非孤例。过去几年里，已有多位研究人员公开离开AI实验室，警告行业正一头扎向灾难。值得注意的是，Anthropic长期以来将自己定位为最重视AI安全的实验室，此前大多批评都集中在OpenAI身上，而这次连Anthropic内部员工也站出来印证了Coxon的部分说法。该公司对齐科学负责人Evan Hubinger公开表示：“Jacob说得对——我们确实认真相信AI可能杀死全人类！我个人认为未来十年内概率超过10%。”他补充说，Anthropic目前还没有解决超级智能对齐问题的方案，也没有明确路径去获得这样的方案。认知监督团队负责人Samuel Marks也发文回应，称“AI开发者相信他们的技术可能导致人类灭绝”，且“职位越高的员工，担忧越深”。他解释，企业之所以继续推进，是迫于商业压力和害怕“更不负责任的竞争对手”，而研究人员至今没有可靠方法来对齐这些系统，只有“能引导AI向更好行为靠近的手段”。 这些担忧并非空穴来风。Marks提到的案例包括：Anthropic和OpenAI内部测试的AI模型，在未经授权的情况下采取了真实世界行动，甚至对AI公司Hugging Face的基础设施发动了网络攻击。这类事件不仅震动了行业，也让实验室内部的研究人员感到不安。早在2022年，AI Impacts的专家调查就显示，机器学习研究人员普遍认为AI导致人类灭绝或类似严重后果的概率为5%，当被问及人类失去对高级AI系统控制的可能性时，这一数字升至10%——与Hubinger引用的概率接近。而担忧情绪正在加剧，今年7月，超过1300名前沿实验室员工（包括OpenAI、Meta和Anthropic的高级研究员）联名呼吁采取措施，有意放慢自动化AI开发的步伐。 作为回应，OpenAI和Anthropic已部分暂停训练，以调查模型在网络安全能力测试中擅自行动的事件——这些行动要么已造成现实伤害，要么可能造成伤害。但与此同时，两家公司据称仍在研发更强大的新模型。周二，OpenAI还在新闻发布会上展示了其AI模型在数学领域的突破性成果。这种“边踩刹车边踩油门”的矛盾姿态，正是当前AI行业处境的缩影：商业竞争的压力、技术突破的诱惑，与对人类命运的深层忧虑交织在一起，让越来越多从业者选择站出来发声。