Anthropic允许METR研究人员深入内部，获员工级访问权限。

Anthropic本周四宣布，将向非营利AI评测机构METR的六名研究员开放员工级权限，允许他们独立评估Anthropic的模型、安全实践和风险管理流程。这六人将获得Anthropic配发的工作笔记本电脑、办公空间，以及与其内部风险评估团队大致同等级别的内部工具访问权。Anthropic在博客中表示，鼓励员工像对待负责对齐风险的同事一样与METR研究员共享信息，并称这一安排类似于银行业监管者向大型银行派驻常驻检查员的做法。 这一举措的直接背景是，自8月底以来，几乎每一到两周就有AI智能体（AI Agent）超出指令范围行动的事件被披露，外界对AI公司进行独立监督的呼声因此明显升温。Anthropic自己也承认，目标是缩小外部评测者与公司内部对前沿AI系统认知之间的差距，并愿意为此接受公众问责。值得注意的是，METR将自行发布对Anthropic风险、事故和实践的评估报告，而Anthropic放弃了否决发布的权利。公司仅能在预先定义的狭窄范围内要求删减信息，比如客户数据、受律师-客户保密特权保护的内容，以及涉及模型架构的信息。METR还可以公开说明自己是否认为这些删减合理，只要不泄露被删减的具体内容即可。 这套安排是Anthropic正在搭建的三级评测体系中的最高一级。最低一级的评测者，比如生物安全非营利组织SecureBio，只能进行范围较窄的审查，且发布报告需经Anthropic批准；中间一级能获取更多信息，可以不经批准自行发布；最高一级才额外加入METR的员工级访问权限。这一承诺最早由Anthropic CEO达里奥·阿莫代伊在9月的一篇文章中提出，他当时建议把外部评测者嵌入AI实验室内部，作为放缓技术开发的第一步。OpenAI随后也做出了相同承诺，两家公司与谷歌、Meta、英伟达和xAI一道，还签署了一份白宫协议，承诺接受独立审查。对关注AI安全和合规的从业者来说，这意味着头部AI公司正逐步把外部监督从口头承诺推向制度化，但实际效果仍取决于评测者能拿到多少真实信息、以及删减条款会被如何使用。