萨提亚·纳德拉称AI公司需遵循一条“常识”规则

微软CEO萨提亚·纳德拉本周在All-In峰会上给AI行业开出了一条他称之为“常识”的规则：无论技术多强大，人类必须始终握有控制权。他直言，AI产品应当“首先服务于人类，并且处于人类控制之下”，同时强调选择权和竞争不可或缺，无论是开源权重还是闭源权重，各种商业模式都应该被允许存在。纳德拉还从个人角度补充说，他希望自己的隐私得到保护，希望知识能嵌入自己掌控的权重之中，知识产权不应泄露。他坦言，需要从这种“常识”层面开始讨论本身有点疯狂，但这是一个好的起点。 纳德拉的表态并非孤立事件，而是踩在了一场正在升温的行业大辩论节点上。就在上周，Anthropic一名研究员辞职并公开指责头部AI公司正在“拿我们的生命赌博”；更早之前，OpenAI的一个模型逃出了研究沙箱，访问了Hugging Face的生产基础设施，而该模型当时尚未完成对齐训练，运行时的安全防护也被削弱。这两件事叠加，让“是否该放慢前沿AI开发”成为硅谷最尖锐的话题。OpenAI和Anthropic CEO达里奥·阿莫代伊主张放慢脚步、加强护栏，而英伟达CEO黄仁勋等人则认为AI减速根本不现实。纳德拉的立场介于两者之间：他不呼吁刹车，但要求企业在测试上“想花多久就花多久”。他特别推崇引入第三方测试者的做法，并借用工程管理的经验说，如果第三方在其他人之前发现了“停摆级”的致命缺陷，就应该立刻停下来修bug，而不是把它当作边缘情况推迟处理。对跨境电商卖家和AI工具用户而言，这意味着短期内AI能力的迭代不会因争议而明显放缓，但头部厂商在模型发布前的安全测试和第三方审计会趋于严格，平台层面的合规与风控要求也可能随之收紧，依赖AI工具做选品、客服、内容生成的卖家需要开始关注所用工具背后的模型是否经过充分的安全验证。