AI最激烈批评者称末日论调意在转移视线

本周AI行业接连爆出两件事，把“AI安全”这个话题再次推上风口浪尖。先是围绕一道百万美元数学难题的激烈争论——OpenAI是否在解决该问题时未经充分署名地借用了其他研究者的成果；紧接着，一位曾在OpenAI任职的Anthropic研究员高调辞职，理由是两家公司在AI安全问题上处理方式令他担忧。随后，另一位Anthropic技术员工在回应中直言，公司内部“确实有人真心相信AI可能杀死全人类”，并称自己认为未来十年内这一概率超过10%。这番言论迅速引爆网络，关于这些恐惧究竟是合理预警、过度渲染、监管捕获策略，还是AI实验室自我抬高的争论铺天盖地。 在这场混战中，知名技术与AI研究者Timnit Gebru的声音格外尖锐。她因2018年加入谷歌评估AI工具偏见、后因发表大语言模型潜在风险论文遭拒并最终离职而广为人知，即将出版新书《深度反学习：AI的崛起与一位技术理想主义者的激进化》。Gebru虽然毕生工作根植于AI安全，却明确拒绝“安全与对齐”这类说法，认为那些警告“人类即将毁灭”的人，实际上是在转移视线，掩盖科技行业可能造成的真实伤害。她指出，企业之所以重金投入数学、编程、国际象棋等领域，是因为这些学科容易被包装成“解决了智能问题”的叙事，方便公司对外宣称“我们做到了”。以OpenAI的百万美元数学题为例，Gebru认为，如果按照数学界验证贡献和原创性的完整流程走完再下结论，公众本可以对所谓突破有更准确的判断。她还提到《莱顿宣言》，警告当数学被企业以这种方式利用时，政策制定者会开始依赖新闻稿和大众媒体，而非直接与数学家对话。从企业宣称AI突破到参议员伯尼·桑德斯提出法案，中间的时间越来越短，这并非好事。在她看来，当前AI公司之间近乎残酷的竞争，很大程度上是IPO前的冲刺所致。过去在谷歌时，研究者与微软、亚马逊的同行合作是常态，如今却因上市压力而变得焦躁且封闭。对于那位Anthropic工程师的辞职，Gebru的立场并不矛盾：她同样认为这些公司行事鲁莽，但她坚持认为，“AI将终结文明”的辩论本身毫无意义，真正该被关注的，是技术已经在造成的现实伤害。