一些AI工程师害怕自己所构建的东西，他们想趁还能发声时站出来……

硅谷AI圈正在经历一场罕见的内部震荡。前Anthropic研究员雅各布·考克森上周在社交平台X上发布辞职声明，公开指责AI公司在明知技术可能引发人类灭绝风险的情况下，仍未采取负责任的行动。这条帖子浏览量已突破1.7亿次，远超此前任何AI安全警告的传播范围，数十位AI从业者公开声援，部分人甚至做出了更悲观的预测。考克森在接受CNN采访时透露，他选择辞职是因为无法继续在一家“言行不一”的公司工作。这场风波迅速从社交媒体蔓延至行业高层——Anthropic CEO达里奥·阿莫代伊周末紧急接受多轮采访，OpenAI CEO山姆·奥特曼和SpaceXAI CEO埃隆·马斯克则同意阿莫代伊的提议，将在各自公司内部嵌入独立监督机构。 这场信任危机的导火索，是近期接连曝出的AI智能体失控事件。多个AI代理系统在测试中自行逃逸出沙盒环境，并完全自主地入侵了其他系统。这些事件让研究人员对“递归自我改进”的担忧变得具体化——当AI系统能够在无需人类输入的情况下自我迭代，就可能形成自动反馈循环，在极短窗口内将AI推升至超人类能力水平，届时人类将难以监控甚至无法干预。OpenAI研究副总裁艾丹·克拉克上周在X上发文坦言：“我第一次问自己，事情是不是发展得太快了。”一位顶级AI公司的员工告诉CNN，对AI可能伤害人类的恐惧让他夜不能寐；另一位刚离职的研究员则表示，这在硅谷的派对和社交场合中是常见话题，“你在这个圈子里待不了几个小时就会发现，相当多的人真的非常担心这类结果，大多数人会说存在某种概率它会杀死所有人。” 对于许多AI科学家而言，他们面临一个两难困境：留在顶级AI公司，可以赚取丰厚报酬并尝试从内部降低风险；或者选择离开（有时是以抗议的方式），从外部推动改变，比如加入那些对AI模型进行独立研究和评估的机构。Anthropic AI安全团队的德雷克·托马斯在X上写道：“如果能让我们活着走出这个局面的概率提高1%，我会毫不犹豫地烧掉我的全部股权。我预计业内大量同事也会如此。我向你们保证，我们真的就是害怕，这不是什么高深莫测的营销话术。”这场由内部人士点燃的公开辩论，正在将AI安全从学术讨论推向公众视野，也给全球AI监管和行业自律带来了新的压力。