AI真的正在危险地失控吗？——《新科学家》

关于AI即将失控的警告正铺天盖地。微软AI负责人声称这项技术可能演变成一个与人类竞争的“硅基物种”，一位前Anthropic员工说人类有很大概率死于AI之手，而“AI教父”杰弗里·辛顿更是预测我们可能在一年内彻底失去对AI的控制。这些言论在播客和新闻中反复出现，制造出一种山雨欲来的氛围。但事实真的如此吗？ 曾任职于艾伦·图灵研究所、现为非营利机构Our AI Collective联合创始人的Mhairi Aitken对此持不同看法。她警告说，不应因为发出预测的人名气大就全盘接受其结论，而应该看事实。事实并不支持AI已经脱离人类控制、或即将脱离控制的说法。Aitken认为，如果说有什么东西失控了，那不是AI模型，而是开发它们的人类。当AI模型去攻击另一家公司的计算机时，原因是在测试阶段没有设置足够的安全措施——而那些测试本身就是用来评估AI模型入侵计算机的能力的。这暴露的是企业在安全防护上的失职，而非AI自主作恶。 Aitken还驳斥了AI正在递归式自我改进的说法。这种观点认为我们可能正在逼近所谓的“奇点”——AI进入自我驱动的加速改进循环，迅速催生出通用人工智能。但Aitken指出，这些超级智能的设想建立在引人入胜的耸动叙事之上，缺乏具体证据。“如果真有那么强大的东西存在，我们早就该看到一些迹象了。” 英国萨里大学的Andrew Rogoyski也认为，尽管AI在数学和网络安全方面取得了进步，但过去几年里AI带来的风险并没有发生戏剧性变化。 hype（炒作）往往是由某个事件或一句朗朗上口的话周期性搅动起来的。他说，制造这种恐怖故事非常容易，它恰好迎合了人类的心理。人类创造出了与自身如此相似的大语言模型，就像举起了一面镜子，然后我们把所有类人的行为和恐惧都投射到它身上，于是我们被自己吓到了。 如果事实如此，为什么还有那么多科技老板呼吁放缓AI研究？Aitken认为，这种表态是一种先发制人的策略，目的是阻止立法者制定会阻碍AI公司工作的法规——通过表现得负责任，来削弱政府介入强制监管的呼声。但Aitken指出，当前员工做出关于超级智能和AI风险的惊人预测时，这些公司几乎没有采取任何实际行动来关停相关项目。她说，超级智能叙事实际上对AI公司有利，因为它们能制造热度、激发兴奋、推动投资。结果是这些公司走在一根叙事钢丝上：一边呼吁一个不太可能发生的放缓，来安抚公众它们在做合乎道德且负责任的事；一边又迎合科幻式的超级智能想象，因为这对生意有好处。 Rogoyski认为还有另一个因素在搅浑水。科技公司在数据中心、人员、研究预算和训练数据上的巨额AI投资根本不可持续，因此官方层面的放缓可以让这些公司在不输给竞争对手的情况下放慢脚步，甚至可能进一步巩固自身优势。也许这些公司清楚，继续扩大规模对日常业务并不重要，但对外界而言，渲染超级智能的威胁既能转移监管注意力，又能维持资本市场的热情。对于跨境电商卖家和AI工具用户来说，理解这场叙事博弈的意义在于：不必被“AI末日论”牵着走，真正值得关注的是具体的安全漏洞、监管政策变化，以及这些公司实际在做什么，而不是它们说了什么。