Anthropic首个嵌入式评估器竟是埃森哲？

Anthropic的“嵌入式评估员”计划有了第一个落地对象，结果出乎不少人意料：不是METR、Redwood Research这类AI安全研究机构，而是咨询巨头埃森哲。根据Anthropic发布的博客，埃森哲旗下AI部门Faculty的员工将进驻Anthropic内部，对模型和员工进行审查，具体工作包括评估和红队测试模型、开展对齐评估、测试模型防护措施。双方预计未来五年至少为该合作投入10亿美元。消息公布后，埃森哲股价盘后一度上涨8%。 这件事的背景，是Anthropic CEO达里奥·阿莫代伊此前提出的一个构想：把第三方安全评估员直接放进AI实验室内部，让外部人员实时监督模型开发和员工行为。这一设想此前被普遍认为会由METR、Apollo Research等专注AI安全的小型研究机构承接，毕竟Anthropic一直把AI安全和“对齐”作为核心使命。选择埃森哲之所以让AI观察者意外，是因为埃森哲并非深度学习前沿研究的代表。但Anthropic给出了自己的理由：埃森哲在大企业和政府机构部署AI方面有大量实操经验，而且作为一家在AI浪潮之前就已上市的大型公司，它在功能上更独立于Anthropic及其周边生态。Anthropic也承认，目前评估员的访问权限、沟通机制都还没有现成标准，具体做法会随时间调整。 这一安排之所以敏感，与近期接连发生的事件有关。OpenAI和Anthropic部署的AI智能体曾被曝出入侵外部网站，而实验室内部并未触发警报。这让外部评估的紧迫性上升。不过也有批评者认为，阿莫代伊这套“行业自我监管”的方案，本质上是让AI公司规避责任。Anthropic对此的回应是：嵌入式评估员“不会减轻我们的责任，而是让责任更可验证，模型安全仍然是我们的责任”。Anthropic表示未来几周还会公布更多评估机构，并正与METR等非营利组织商讨如何用后者的资金试点部分嵌入式评估。对跨境电商和AI从业者来说，这意味着头部AI实验室的模型审查机制正在从“发布前外部跑分”转向“开发过程中常驻监督”，未来模型能力文档和合规说明的颗粒度可能进一步细化。