Anthropic与OpenAI就AI安全敲响警钟，并寻求影响其管控方式

OpenAI和Anthropic这两家美国头部AI公司最近罕见地站到了同一阵线，公开警告自家开发的先进模型可能对人类构成威胁，呼吁在发布前进行独立测试和监管。OpenAI首席执行官山姆·奥特曼和Anthropic联合创始人达里奥·阿莫代伊分别在联合国大会、社交媒体和公开文章中描绘了AI失控的可怕场景，试图向外界传递一个信号：这项技术太危险，必须被管起来。 但这场“安全警告”背后，并不只是技术伦理那么简单。专家和分析人士指出，两家公司正试图在AI监管规则尚未成型的窗口期，抢先定义“什么算安全”“谁来测试”“按什么标准放行”，从而把行业话语权握在自己手里。这种策略有多重考量：一方面，美国中期选举临近，特朗普政府明确排斥新的AI监管，甚至将“AI威胁人类”的说法斥为帮中国说话的骗局，AI公司此时高调谈安全，可以在政治博弈中争取主动；另一方面，两家公司都在为潜在的IPO做准备，向投资者展示“我们是负责任的行业领导者”，有助于在资本市场讲出更好的故事。Anthropic一名工程师本月在X上宣布辞职，呼吁暂停开发以防“超人”系统脱离控制，公司顺势将其作为自身安全立场的注脚。 批评者则担心，围绕“人类灭绝”这类宏大叙事展开讨论，会转移公众对当下已经在发生的风险的注意力。曾领导OpenAI地缘政治团队的莎拉·肖克指出，数据中心的环境负担、AI助力的黑客攻击、大规模监控以及AI在军事领域的应用，这些现实危害正在被边缘化。她说，看看AI在军事技术中的使用就能明白，这些系统已经在被用来杀人了。与此同时，AI公司更倾向于推行自己设计的安全方案，而非接受政府主导的强制监管。随着AI从聊天机器人进化到具备三维感知能力的“世界模型”，如何测试、由谁测试、按什么标准测试，已经成为一场关乎行业未来走向的规则制定权之争。