萨提亚·纳德拉：我们应假设所有AI模型都已被“攻陷”

微软CEO萨提亚·纳德拉在社交平台X上发布长文，系统阐述了他对高度先进AI模型所带来风险的看法。他明确提出一个颇具冲击力的判断：我们应当默认所有AI模型都已被“攻破”或“污染”，不能再把它们当作可信的黑箱来使用。纳德拉认为，当前行业普遍将AI视为“嵌套的黑箱”——用户只能选择接受或拒绝其给出的建议和行动，这种模式已经不可持续。他呼吁建立一套更透明的体系，让模型可以被约束、被观察，并留下“防篡改、人类可读的证据”。 纳德拉的这番表态并非孤立事件。过去一年，随着大模型能力快速跃升，AI安全事件频发：模型被越狱诱导输出有害内容、训练数据被投毒、智能体在无人监督下执行危险操作等案例不断出现。业界对AI治理的讨论也从“如何让模型更聪明”转向“如何让模型更可控”。纳德拉提出的建议与业内其他声音高度一致，包括及时披露安全事件、引入独立第三方审计、确保训练数据可验证，以及对模型进行物理或逻辑上的隔离约束。值得注意的是，他在“约束”这一点上着墨最多，暗示微软可能正在推动更严格的模型部署门槛。对于中国跨境电商卖家和AI工具用户而言，这意味着未来接入海外AI服务时，可能面临更频繁的合规审查、更严格的数据使用限制，以及平台方对模型输出内容的更强管控。依赖AI生成商品描述、客服话术或广告素材的卖家，需要提前关注所用工具是否具备可审计的透明机制，以免因模型“被污染”而触发平台处罚或法律风险。