微软CEO纳德拉向员工发布AI安全内部警告

微软CEO萨提亚·纳德拉在一份内部备忘录中，就AI行业是否发展过快这一争议话题明确表态。这份备忘录于周一晚间发布在公司内部留言板上，纳德拉在文中强调AI必须始终处于人类控制之下，支持引入更广泛的第三方测试机制，并警告企业不能为了抢速度而忽视安全。他写道：“当赌注越来越高时，你应该花足够多的时间。否则你终将失去运营的许可。”这一表态的背景是，上周部分AI研究人员发出了极为严峻的警告，甚至有人声称这项技术可能灭绝人类。上周末，Anthropic CEO达里奥·阿莫代伊提议放缓AI开发节奏，并表示公司愿意接受外部对其模型进展的监督。OpenAI CEO山姆·奥特曼也认同第三方监督的必要性，并支持在必要时放慢部署速度以确保对齐与安全。与此同时，微软AI部门于周一发布了其“人本主义”AI模型行为准则的37页草案，微软AI CEO穆斯塔法·苏莱曼表示：“我们长期以来只在理论上担忧的事情，如今已经变得非常现实。” 纳德拉在备忘录中进一步将微软的应对思路拆解为三个层面。第一是设计目标，即AI必须处于人类控制之下并广泛造福社会，这意味着要构建一个封闭与开源模型都能繁荣发展的前沿生态，并在对齐问题上刻意控制节奏。他将此比作发布前的研发与测试流程，认为更多外部和第三方测试是好事，而风险越高就越需要留足时间，否则将失去运营资格。第二是面向客户，核心是确保客户对自己独特的隐性知识保持控制权，从而构建自己的持续学习闭环，而不是依赖某一家模型提供商。微软的Foundry平台正是为此设计，能让长时间运行的智能体具备企业级就绪能力，安全护栏、财务运营等从第一天起就内置其中。第三是赢得建设基础设施的社会许可，确保AI带来的经济收益能够被本地社区切实感受到。纳德拉以微软在昆西的数据中心为例，说明与社区长期共同成长的可能性。他将这三点总结为一条贯穿三个层面的路径：如何在前沿构建、如何让客户保持控制、如何让经济红利广泛扩散到各个社区和国家。他强调，作为一家公司，微软必须让这些表态背后有真实的行动支撑。