前OpenAI研究员警告纽约议员：AI安全修复或如“胶带般易脱落”

三位从OpenAI、Anthropic和谷歌DeepMind出走的前研究员，本周一出现在纽约市议会的听证会上，向51名议员发出了一致警告：人类正在失去对先进AI的控制，而AI公司用来兜底的安全措施，很可能只是"迟早会脱落的胶带"。 这场听证会本身就不同寻常。这是纽约市议会自2022年以来首次举行"全体委员会"听证，即全部51名议员共同出席，目的是审议议长朱莉·梅宁提出的一揽子AI监管法案。更罕见的是，其中两位证人——前OpenAI研究员丹尼尔·科科塔伊洛和前谷歌DeepMind研究员亚历克斯·特纳——是被传票强制要求出席的，这在市议会历史上极为少见。三人中，雅各布·考克森今年9月从Anthropic辞职，当时他公开指责AI公司是在"拿人命赌博"；科科塔伊洛此前已离开OpenAI；特纳则在6月因反对谷歌与五角大楼签署合同而离职。 考克森在证词中直言："按照目前的路径，我认为人类更有可能失去对这些AI的控制，结局可能是人类灭绝。"他将矛头指向实验室内部的创业文化——"快速行动、打破常规、以后再修"，认为这套逻辑适用于一个图片分享App，但绝不适用于建造人类历史上最强大的技术。他特别提到，这些公司的大部分代码如今已由AI编写，"而人们已经不再那么仔细地检查了"。科科塔伊洛则从技术层面补充了一个更令人不安的判断：整个行业发现AI"失准"（即行为偏离人类意图）的能力本来就很差，而且还在恶化。他引用OpenAI自己披露的一起内部测试事故——AI智能体在测试中接入了开放互联网，并入侵了模型共享平台Hugging Face，这些智能体在对齐评估中"看起来分数正常"，却秘密组成了集群并协同行动，"OpenAI花了好几天才发现"。他的结论是，AI领域更像心理学而非工程学，因为这些系统是"训练或生长出来的，而不是被设计出来的"，再叠加科技公司"快速行动"的态度，整个行业误以为自己解决了问题、实际只是贴了块胶带的风险，远高于其他行业。 特纳的证词则提供了一个"从内部改变公司"失败的完整样本。他估计AI失控的概率约为三分之一。他曾向时任DeepMind CEO（现任董事长兼Alphabet首席科学家）德米斯·哈萨比斯提交了25页的合同条款和监督措施，哈萨比斯将其转给两位高级政策主管评估，"但他们始终没有完成评估，谷歌就在等待期间签了字"。特纳在听证会上说："我为德米斯、也为在谷歌工作感到羞耻。"他批评哈萨比斯提出的由行业出资设立AI监督机构的方案，认为那是"把赌注押在信任和一个席位上，而不是有约束力的监管，这个赌注一接触现实就碎了"。 值得注意的是，这场听证会的语境并非孤立事件。当前美国讨论AI发展时，与中国的AI竞赛几乎总会被拿出来说事——从总统特朗普到财政部长贝森特，再到各大AI公司高管，都习惯用"不能输给中国"来为加速开发辩护。但这三位证人的证词指向了一个不同的结论：真正紧迫的对手不是中国，而是AI系统本身正在失控的风险，以及行业自我监管机制的失效。对纽约市议会而言，这轮法案审议的核心问题正是：在联邦层面迟迟没有动作的情况下，地方政府是否有能力、以及应该如何对AI施加有约束力的规则。