为何Anthropic自动化AI开发的新报告令研究人员担忧

Anthropic正在用AI来构建更强大的AI，而且效果出奇地好。据AI安全研究机构METR周四发布的一份新报告，Anthropic的模型改进速度大约是一年前的两倍，且几乎没有放缓的迹象。这份报告基于METR在Anthropic内部进行的为期11周的调查，属于对该公司的AI研发能力评估的一部分。需要说明的是，这项调查与另一项允许安全研究人员以“准员工”身份访问系统的计划是分开的——后者是在今年夏天发生多起备受关注的黑客事件后推出的。 这件事之所以让研究者感到不安，核心在于“AI自我加速”从假设变成了可观测的数据。METR的调查发现，Anthropic的工程师已经在大量使用自家模型来辅助写代码、设计实验、评估模型表现，形成了一个反馈回路：更强的模型帮助造出更强的下一代模型，迭代周期被大幅压缩。换句话说，过去需要人堆时间完成的研发环节，现在有相当一部分交给了AI自己。对AI安全研究者而言，问题不在于效率提升本身，而在于这种加速可能跑在安全评估和对齐研究的前面——当模型能力每几个月就翻一番，监管和测试手段能否跟上就成了未知数。对跨境电商卖家和AI工具用户来说，这件事的直接影响是：Anthropic旗下Claude系列模型的更新节奏会更快，工具能力上限会持续抬升，但同时，产品行为的变化也可能更频繁、更难预测，依赖AI工具做选品分析、广告投放、客服自动化的团队需要更密切地关注版本迭代和输出质量波动。