Anthropic举报人纽约听证会再发AI警告

曾在Anthropic任职的研究员雅各布·考克森（Jacob Coxon）本周一现身纽约市议会听证会，再次就人工智能可能带来的生存风险发出警告。这位上月因公开宣称"AI可能在本十年内杀死全人类"而搅动整个行业的举报者，此次是应市议会议长朱莉·梅宁（Julie Menin）之邀出席作证。梅宁呼吁更多AI行业内部人士站出来发声，背景是纽约市正试图在AI监管中扮演更积极的角色。考克森在听证会上直言，当前AI公司的运作方式与所承担的风险严重不匹配："这些公司完全是以创业公司的心态在运作——快速推进、打破常规、出了问题再修。这套逻辑适合做一个照片分享应用，但绝不适合用来建造人类历史上最强大的技术。"他还透露，研究人员和从业者实际上已经失去了对AI系统的完全控制能力："我们并不理解它的驱动力，也不明白它为什么做某些事。我们正在接近一个临界点——AI系统将有能力自我改进。"考克森以自身经历举例："在我上一份工作中，某种意义上我就是在把自己自动化掉……我可以 firsthand 地告诉你，现在大部分代码已经由AI编写，而人们已经不再那么仔细地检查了。" 这场听证会折射出AI行业内部日益尖锐的矛盾。考克森上月从Anthropic离职后发出的警告，将关于AI安全保障和监管的讨论推向了新高度。不同寻常的是，多家头部AI公司的掌门人随后罕见地主动呼吁对自身产品发布施加更多限制，警告需要全球协作来防止AI失控。Anthropic CEO达里奥·阿莫代伊（Dario Amodei）发表长文，呼吁竞争对手共同放慢AI模型的开发节奏，理由是担心"递归自我改进"（RSI）带来的风险——即AI聪明到能够独立持续进化。OpenAI的萨姆·奥尔特曼、SpaceX创始人埃隆·马斯克以及微软亿万富翁比尔·盖茨也先后就AI不受监管发展的风险发出警报。不过，美国总统特朗普持相反立场，认为更大的风险在于放慢美国AI发展速度会让中国取得领先。 听证会上，前谷歌DeepMind研究员亚历克斯·特纳（Alex Turner）和前OpenAI研究员、现运营AI Futures Project的丹尼尔·科科塔伊洛（Daniel Kokotajlo）也通过视频连线作证。特纳给出了一个令人不安的概率判断："一个超级智能集群可能夺取人类文明的控制权。它会知道我们会试图阻止它实现自己的优先目标，因此这个集群很可能会等到来不及关闭它的时候才行动，到那时就没有回头路了。我个人猜测AI接管的概率大约在三分之一。"科科塔伊洛则把矛头指向了科技领袖本身，认为即便他们能维持对AI的控制，也不应被信任掌握这种权力："我认为他们很有可能利用这种控制权在美国成为独裁者或寡头。"值得注意的是，Anthropic、OpenAI、谷歌和Meta的代表均以视频方式出席了听证会，但派出的并非CEO，而是政策负责人和其他高管。与此同时，市议会听证会场外聚集了抗议AI和数据中心的民众，显示围绕AI监管的社会张力正在从行业内部蔓延至公共空间。