Anthropic重大AI报告三大要点引热议

独立安全研究机构METR本周四发布了一份关于Anthropic公司AI研发情况的报告，这份报告基于六名研究员在Anthropic旧金山总部近三个月的驻场观察。研究团队获得了被其称为“前所未有的访问权限”，可以访谈员工、监控内部Slack频道，甚至使用公司硬件测试尚未发布的AI模型。但METR同时警告，报告在Anthropic的坚持下进行了大量删减，“我们能够自由分享关于风险的最高层级结论，但Anthropic删除了我们认为对得出这些结论最有信息量的多数证据”。 报告披露了几个值得关注的发现。首先，Anthropic在过去六个月里完成了三个尚未对公众开放的模型训练，加上一个2022年的内部模型，公司员工正在使用比外部用户更强大的AI工具。这些内部模型反过来又加速了Anthropic自身AI能力的提升，形成一个闭环。这揭示了AI行业的一个微妙博弈：Anthropic和OpenAI靠出售最先进的模型赚钱，但把最强模型留在内部，又让自家产品和研究团队获得竞争优势。METR研究员Ajeya Cotra此前曾对Business Insider表示，正是这两家公司囤积的高能力内部模型，让她预计AI安全领域“最严重的事故”会发生在它们身上。 另一个引人注目的数据来自Anthropic内部的Slack投票：截至今年10月，员工自报使用“最强内部模型”后生产力平均提升约12倍。METR承认Slack投票属于弱证据，样本未必代表全部员工，回答者也未必认真思考过。但在后续访谈中，多名研究人员表示Claude显著提升了工作效率，一位研究员称“现在瓶颈只在想法和算力，不再卡在写代码上”。更关键的是，METR没有观察到会阻止加速进一步扩大的“明显瓶颈”，这意味着能力进步可能带来更快的加速，尽管研究团队也承认可能遗漏了重要瓶颈。报告还指出，Anthropic的工程师正越来越多地将监督和训练职责委托给AI系统，这种“递归自我改进”的趋势正在推动研发速度不断加快。