Anthropic称其模型Claude正协助构建下一代自身

Anthropic本周四对外披露，其旗下AI模型Claude正在深度参与下一代Claude的研发工作，目前已经主导了公司26%的模型研发任务。所谓“主导”，按照Anthropic的定义，是指Claude能够根据一个高层次指令，在人类监督下端到端完成大部分工作，而不仅仅是充当辅助工具。更值得注意的是，公司约90%的研发流程都有Claude参与协作，意味着这个模型已经能在人类密切指导下承担大块核心工作。Anthropic同时透露，截至今年8月，公司内部已有约3万个AI代理在从事研究和工程任务。 这一披露之所以引发关注，是因为它触及了AI行业最敏感的话题之一：递归自我改进。简单说，就是AI模型能否自主构建出比自己更强的下一代模型。Anthropic公布的数据显示，Claude在研发中的主导比例从今年2月的零，一路攀升到8月的四分之一，仅用了半年时间。这个速度让外界得以首次量化评估头部AI实验室距离“AI造AI”还有多远。Anthropic自己也承认，模型加速自身开发会让人类更难以理解和控制这些系统，因此呼吁同行定期公开类似指标，采用统一方法论，让公众能够跨时间、跨实验室进行比较。 这件事的背景是，AI安全争论正在白热化。Anthropic CEO达里奥·阿莫代伊、OpenAI CEO山姆·奥特曼、埃隆·马斯克等科技领袖近期都在呼吁放缓开发节奏，而特朗普总统和其他一些科技人士则持反对立场。就在上周，Anthropic一名研究员以对AI威胁人类的严厉警告为由辞职，进一步点燃了这场辩论。Anthropic在博客文章中表示，应该尽可能缩小前沿实验室与公众之间的信息差，让社会有机会决定如何使用这些信息。公司还承诺引入外部第三方评估人员入驻内部，监督安全措施。对于关注AI治理和出海合规的从业者来说，Anthropic这次主动公开研发自动化指标，可能预示着一个新趋势：头部实验室将被倒逼提高透明度，而围绕AI自我改进的监管讨论，也将从哲学层面进入可量化、可比较的新阶段。