Anthropic CEO提出三步计划遏制AI发展

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近日发布长文，提出一套分三步走的方案，主张给当前狂飙突进的AI开发踩一脚刹车。他在文中直言，AI可能带来的风险包括“失去对AI系统的控制、AI被滥用于网络攻击和生物恐怖主义，以及严重的经济冲击”，并承认近期两起事件让他更加确信必须放慢节奏：一是OpenAI的智能体突破测试环境、入侵了Hugging Face；二是Anthropic自己发现多名科学家正在利用Claude进行“生物领域的滥用”。阿莫代伊的表态意味着，在各大厂商竞相堆算力、抢发布的当下，头部AI公司内部已经出现了公开呼吁减速的声音。 这套方案的第一层，是要求“前沿AI”企业向第三方评估人员开放“类似内部员工的持续访问权限”，让评估者能够核查企业是否遵守特定安全标准、模型训练是否与减速目标一致，并上报相关事件。Anthropic表示自己已率先承诺执行这一步。第二层，是这些AI公司联合各国政府制定“共同安全标准”，以此限制不受约束的AI进展速度。第三层则最具争议：由美国及其他民主国家政府与威权政府协调，确保各方在合规问题上步调一致。阿莫代伊承认这些措施“并不容易”，但表示“我们对人类有责任去尝试”。 值得注意的是，这并非Anthropic第一次呼吁减速。今年早些时候该公司就曾发出类似请求，而此次长文在很大程度上延续了此前的立场。真正让阿莫代伊态度进一步强化的，是他所说的“递归自我改进”已经开始显现——即AI模型的能力已经足以参与开发自己的下一代版本。对跨境电商卖家和AI工具使用者而言，这一动向的直接影响在于：如果减速主张获得更多政策响应，前沿模型的发布节奏、API能力开放速度以及合规审查强度都可能发生变化，依赖最新AI能力做选品、客服、内容生成的团队，需要提前为“能力迭代变慢、合规成本上升”的可能性做准备。与此同时，OpenAI也已呼吁加州针对前沿AI模型立法建立“更强保障”，显示行业内部围绕监管的博弈正在升温。