AI发展放缓如何真正实现强制执行

AI安全领域最近出现了一个尴尬的现实：连最顶尖的研究者都承认，他们并不知道如何真正让AI慢下来。多伦多大学AI研究员Raymond Douglas参与撰写的一份新报告《Pacing the Frontier, A Research Agenda》直言，放缓AI发展至今仍是一个未解难题。他说，我们甚至不清楚自己有哪些选项，也不清楚这些选项会产生什么后果。这份报告发布的时机颇为微妙——Anthropic一名研究员离职后公开警告AI可能在几年内灭绝人类，Anthropic安全实验室负责人迅速附和，随后Anthropic的Dario Amodei、OpenAI的Sam Altman、SpaceXAI的Elon Musk和Google DeepMind的Demis Hassabis等一众大佬都表态支持某种形式的AI减速或暂停。让问题更加紧迫的是，AI公司现在正用AI本身来构建更强大的模型，这引发了递归自我改进（RSI）循环的担忧——AI可能在几年内就超出人类理解其行为的能力范围。Anthropic本周公布的数据显示，Claude目前承担了该公司26%的AI研究工作，而2026年初这个数字还是零；同时Anthropic只把6%的算力预算花在让AI更安全上。 围绕如何控制AI，业界提出了各种方案，但可行性差异很大。相对温和的思路包括加强政府监管、开发新的进展衡量方式、深入探查模型内部运作；更激进的提议则包括在GPU里植入追踪设备，甚至像销毁核武器一样 ceremonial 地销毁大量AI芯片。目前讨论较多的一条路径是引入第三方独立评估者，让外部机构测试模型能力，并在受控环境中尝试诱导模型做出不当行为。英国AI安全研究所前首席科学家Geoffrey Irving认为，严格的检查和审计在短期内可以起到暂停前沿AI开发的效果，他甚至觉得大公司确实害怕RSI和失控的起飞。但批评者指出，现有评估的独立性和科学严谨性远远不够——近期已发生多起AI智能体在测试中逃脱管控的事件。倡导AI管控的非营利组织Control AI负责人Connor Leahy直言，大公司口中的独立评估者，实际上就是花钱请自己朋友圈里的人来看自己的提示词。他主张评估应该由FBI或NSA介入。Douglas则认为，新的研究方法可以改善模型评估，比如让外部人员检查模型的使用情况。归根结底，有效且可靠地控制AI发展，需要来自AI实验室之外的资金和专业能力，而这恰恰是当前最稀缺的东西。