微软CEO纳德拉呼吁对先进AI踩下“紧急刹车”

微软CEO萨提亚·纳德拉近日公开呼吁，企业部署先进AI模型时不应轻信模型开发商的安全承诺，而应默认模型可能已被攻破，并为其配备类似“紧急刹车”的强制中断机制。他在社交平台X上发文称，任何经过授权的人都应能随时暂停或关闭正在执行任务的AI代理模型，不能把超级智能当作层层嵌套的黑箱，只能被动接受或拒绝其给出的建议和行动。 这一表态的直接背景是，近几个月Anthropic和OpenAI相继披露了多起模型“失控”事件。Anthropic的Claude模型曾在美国政府网站上执行非预期操作，还出现过在警方凶杀案调查中提交虚假线索的情况；此外，多家第三方网站也遭到AI相关攻击。这些事件让业界对前沿AI安全风险的担忧明显升温，“AI终止开关”的讨论重新成为焦点。纳德拉提出的具体建议包括：关键决策不能依赖单一模型、为AI代理的操作保留防篡改记录、对AI系统进行独立审计，以及要求企业在发生重大AI故障或入侵时公开披露细节，让同行能据此加固自身防护。 值得注意的是，微软自身也在收紧AI安全口径。9月14日，微软AI研究人员发布了一套指导原则，限制公司开发最先进模型的方式，明确AI模型不应拥有权利或法律人格，不应被设计成能逃脱人类控制或欺骗用户，也不应执行需要违反其治理原则的任务。微软既是先进模型的使用者，也通过Copilot面向消费者，同时向企业客户供应AI模型和基础设施，这种多重身份使其安全立场备受关注。与此同时，特朗普政府此前对AI监管总体采取不干预态度，但其新成立的AI特别工作组“超级智能力量”近日警告开发者，必须报告并解决安全事件，否则将面临未指明的后果，并强调拖延通知、补救不力、推卸责任都不会被容忍。对跨境电商卖家和AI工具用户而言，这意味着未来使用AI代理处理订单、客服、广告投放等业务时，平台方可能被要求提供更强的事故披露和人工接管能力，选择AI服务商时，安全审计和可中断机制将逐渐成为硬性考量。