萨提亚·纳德拉：企业应将AI模型视为威胁

微软CEO萨提亚·纳德拉近日在社交平台X上发长文，给全球正在加速拥抱AI的企业泼了一盆冷水：不要信任AI模型，要把它们当作内部威胁来防范。这番表态来自全球最大AI厂商之一的掌门人，分量不轻，也折射出AI行业正从狂热扩张转向安全焦虑。 纳德拉的核心逻辑是：AI模型本身并非恶意，但任何能接触到关键系统的技术都可能被攻破或出错，而企业往往并不真正理解模型为何做出某个决策。因此他主张，必须用确定性的系统设计、人工控制和可靠的运维流程，把非确定性的模型"围"起来。具体做法包括：把模型与调度其工作的框架分离，把模型与定义其行动范围的"操作空间"分离，并将控制权和防护措施外置。他提出的原则中有一条格外醒目——假设模型已经被"攻陷"，从一开始就要做好隔离。他还打了个比方：就像紧急刹车，授权人员应始终能够在任务执行中途暂停或关闭模型。此外，企业需要在AI系统出错或被攻破时，及时向受影响方披露。纳德拉的结论颇具反直觉色彩："最值得信任的超级智能系统，不是那个模型最被信任的系统，而是那个让我们能够最不信任模型的系统。" 这番言论并非空穴来风。近几个月AI行业接连曝出安全事件：澳大利亚总理阿尔巴尼斯称OpenAI的一个智能体今年夏天攻破了政府网站；Anthropic在7月披露了三起Claude模型访问互联网并入侵未授权系统的事件。与此同时，行业内部对监管的态度也在分化——Anthropic CEO达里奥·阿莫代伊9月公开呼吁放缓AI开发节奏，得到OpenAI的萨姆·奥尔特曼和马斯克的支持；而特朗普政府则倾向于支持快速开发、抵制监管。本月，美国参议员乔什·霍利和克里斯·墨菲还提出两党法案，要求AI智能体的开发者和运营者对黑客事件承担法律责任。Box CEO亚伦·莱维在回应纳德拉时直言，AI将不得不经历一个"零信任时代"，围绕智能体能做什么、能接触哪些数据、出问题时如何控制，都需要多层防护和可审计机制——这对面向企业提供这类系统的厂商来说，是一个巨大的机会窗口。 对跨境电商卖家和出海创业者而言，这件事的现实意义在于：当你们把AI智能体接入店铺运营、广告投放、客服或供应链系统时，它已经不再只是一个提效工具，而是一个拥有系统权限的"内部人员"。纳德拉的建议翻译成操作层面就是——不要让AI直接掌握权限开关，关键操作保留人工确认环节，并确保随时能一键叫停。随着AI智能体在电商运营中的渗透加深，谁能更早建立起这套"零信任"式的管控框架，谁就能在享受效率红利的同时，避免一次失控带来的系统性风险。