萨提亚·纳德拉改变对AI对齐必然性的看法 - 商业内幕

微软CEO萨提亚·纳德拉最近在20VC播客节目中承认，自己改变了对AI对齐问题的看法。当主持人问他过去一年有什么认知转变时，纳德拉表示，他以前一直认为随着AI系统能力越来越强，对齐——也就是确保AI的行为符合人类价值观和目标——会自然而然地实现。但现实是，模型规模扩展确实如他预期那样发挥了作用，模型能力也在持续提升，对齐却依然是个难题。用他的原话说：“我以前总觉得对齐会自己掉出来，现在我不这么认为了。对齐可能是一个更难、性质不同的问题。” 这一表态的分量在于，纳德拉此前并不是对AI风险轻描淡写的人。就在10月10日，他还在X上发文警告AI的潜在风险，主张加强外部管控，并建议企业把AI模型当作“内部威胁”来对待，默认它们可能已经被“攻破”。他当时写道，需要用强健的确定性系统设计、人工控制和可靠的操作流程来包围这些非确定性的模型，并在现有行业标准不足的地方建立新标准。如今他进一步修正了自己对“对齐会随能力提升自动解决”的乐观假设，这与OpenAI的萨姆·奥尔特曼、Anthropic的达里奥·阿莫代伊等科技领袖的警告方向一致。今年7月，超过1000名AI从业者签署公开信，警告AI能力的推进速度可能超过人类理解和控制这些系统的速度。对跨境电商卖家和AI工具使用者来说，这意味着头部厂商在AI安全上的态度正在收紧，未来AI产品的使用边界、合规要求和平台管控措施可能随之加码，依赖AI自动化运营的团队需要提前关注政策风向，而不是假设工具会一直“听话好用”。