英国加强国家防御应对日益加剧的AI风险

英国政府本周一宣布启动一揽子新措施，以应对能力日益强大的AI系统所带来的安全风险。核心动作包括：把前沿AI模型直接投入政府网络防御，扩大此前已识别并修复超过1000个潜在漏洞的试点项目；通过正在推进的网络安全与韧性法案（Cyber Security and Resilience Bill）研究如何识别和上报严重AI事故及"险情"；同时着手准备应对自主AI代理（autonomous AI agents）引发的重大事件。英国AI安全研究所（AI Security Institute）已开始对最新一代先进模型开展严格评估，相关工作与美国政府及多家头部AI开发商合作进行。 这一轮动作的背景，是英国政府对前沿AI能力跃升速度的判断发生了变化。AI事务部长卡尼什卡·纳拉扬（Kanishka Narayan）在伦敦帝国理工学院科技孵化器Base One发表讲话时警告，随着前沿AI系统越来越强大、越来越具备自主行动能力，一旦出现故障或被恶意使用，后果将远比现在严重。他给出的表态相当强硬：希望英国成为"全球最难被AI攻击的国家之一"，将动用一切可用权力，必要时立法，但不会只依赖法律，还要靠英国的科研能力、技术实力和制度体系去理解这些系统、防御新兴威胁、在出问题时作出响应。他同时直接向开发最强AI模型的公司喊话：当自家科学家警告存在严重危险时要听进去，对异常行为要调查，如果无法充分控制风险，就不要发布该系统。 对在英国有业务或计划进入英国市场的中国跨境电商卖家和AI出海企业来说，这次政策转向有几个值得关注的信号。首先是合规压力可能从"数据隐私"扩展到"AI安全"层面。网络安全与韧性法案一旦把严重AI事故和险情的上报机制写进法律框架，意味着在英运营的AI产品和服务可能面临类似数据泄露通报的义务——出问题必须报，瞒报可能担责。其次是政府采购和公共服务市场的门槛变化。英国政府正在把AI用于自身网络防御，并计划将试点经验推广到整个公共部门，这类项目对供应商的安全资质、模型可解释性和事故响应能力要求会明显提高，中小AI工具厂商想切入这块市场，需要提前准备安全评估材料。第三是"自主AI代理"被单独点名。这类能自行规划、调用工具、连续执行任务的Agent产品，正是当前AI创业的热门方向，英国政府明确表示要为其可能引发的严重事件做准备，暗示未来可能出台针对Agent行为的专门监管或测试要求。对于做AI Agent出海英国的团队，现在就应该开始梳理自家产品的权限边界、人工干预机制和日志留存能力，而不是等到法规落地再补课。