萨提亚·纳德拉警告：勿盲目信任AI，或成内部风险

微软CEO萨提亚·纳德拉近日在社交平台X上发文，抛出一个值得所有企业警惕的观点：不要把AI当作可信赖的助手，而应该把它视为潜在的内部风险。他这篇文章的标题就叫“超级智能时代的模型即内部风险”，通篇用“超级智能”来指代当前的人工智能系统。纳德拉的核心担忧在于，AI智能体正在从单纯的问答、写邮件、生成图片，进化到直接操作企业数据、运行软件、在极少人工干预下自主完成任务。能力越大，一旦出错，后果就越难追溯——传统软件出了bug还能定位到某一行代码，但AI模型为什么做出某个决策，企业往往根本说不清楚。 纳德拉提出的解决思路，概括起来就是一句话：智能和权限必须分开。一个AI模型可以聪明到建议一笔金融交易、分析机密信息、修改系统设置，但它不应该自动拥有执行这些建议的权力。他用了一句很直白的话来解释：“我们需要把智能的供给和对智能的授权分开。”具体落地到企业层面，意味着AI可以提建议、可以执行被明确指派的任务，但必须有一套独立的系统来决定它被允许访问什么、能做什么。企业需要保留AI操作的完整记录，定期对系统做故障测试，并确保授权人员在任何时候都能叫停一个AI智能体。他还特别提醒，不要让一个AI模型去验证另一个AI模型而不加独立检查，否则可能形成多层系统互相“放水”、谁也发现不了对方错误的局面。对于AI系统出现故障或被攻破的情况，他呼吁及时披露，让其他企业能从事故中吸取教训。纳德拉最后给出的判断颇具反直觉意味：“最值得信任的超级智能系统，不会是那个我们最信任其模型的系统，而是那个让我们能够以最低信任度去使用模型的系统。”换句话说，真正的安全不来自对AI的信任，而来自对AI的不信任所催生出的制度设计。 这番表态对正在把AI智能体接入业务系统的中国出海企业尤其值得琢磨。无论是用AI客服处理海外用户咨询、用AI工具自动管理亚马逊广告投放，还是让AI智能体直接操作ERP或供应链系统，一旦模型行为失控或被恶意利用，轻则造成运营事故，重则泄露用户数据、触发合规风险。纳德拉所说的“模型提供商的保证不能免除我们自己的责任”，实际上是在提醒所有企业：AI供应商说自己的模型安全，不等于你的业务就安全了。企业需要自己建立权限隔离、操作审计和人工熔断机制，而不是把关键决策权交给一个说不清决策逻辑的黑箱。