迈向前沿AI开发的技术最佳实践 | AISI工作 - AI安全研究所

英国AI安全研究院（AISI）近日发布了一份关于前沿AI开发技术最佳实践的工作文件，系统阐述了当前AI风险管理面临的新挑战。这份文件的核心判断是：AI能力的进步速度已经超过了现有风险管控手段的更新速度，尤其是风险正在从模型发布后的使用阶段，前移到开发过程本身。 背景与核心变化：AISI指出，过去几年间，前沿AI开发者管理风险主要依赖自愿行动，包括发布安全框架、在模型发布前交由第三方评估、以及近期开始将第三方评估人员嵌入开发流程。AISI自身已参与评估超过55个模型，并开发了开源评估工具Inspect，目前已成为主流第三方评估机构的标准框架。然而，随着AI系统自主性和能力的大幅提升，尤其是在网络安全领域，风险已经不再局限于模型公开发布之后。训练过程中、内部部署阶段、甚至评估环节本身，都可能产生实际危害。与此同时，能力基准测试往往在创建后不久就饱和失效，而构建可信的新评估体系需要越来越复杂的任务设计、多智能体场景、多日运行周期和更严格的安全控制，评估实践正面临跟不上节奏的困境。 对开发者和监管的影响：AISI明确表示，其目标不是强制要求前沿开发者遵守特定规则，而是通过贡献专业知识推动行业形成技术标准和最佳实践，为未来正式技术标准提供参考。这一立场与英国首相9月22日提出的承诺一脉相承——确保最强大的AI系统在开发过程中具备安全性和适当的透明度。值得注意的是，AISI特别提到开发者近期通过白宫超级智能协议等渠道做出的自愿承诺，显示出行业与政府之间正在形成一种协作而非对抗的关系。对于中国跨境电商卖家和AI从业者而言，这意味着未来面向英国及欧洲市场的AI产品，可能在开发阶段就需要满足更明确的安全评估和透明度要求，合规窗口正在从产品上线前移到研发过程中。