Anthropic CEO呼吁放缓AI模型开发速度

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近日公开呼吁，AI公司应当主动放缓模型能力的提升速度。他在社交平台X上发布的一篇长文中提出了一个三步框架，核心目标是给行业争取更多时间来管控AI带来的风险。这一表态迅速获得两位重量级人物——xAI的马斯克和OpenAI的萨姆·奥尔特曼的公开认同，两人均在X上表示赞同阿莫代伊的观点。 阿莫代伊发声的直接导火索，是Anthropic当天发布的一份威胁情报报告。报告详细披露了多个行为方利用其Claude模型从事武器开发、网络攻击、监控和欺诈等活动。与此同时，Anthropic研究员雅各布·考克森宣布辞职，并直言“构建AI的人真心相信它可能在这个十年结束前杀死我们所有人”，进一步加剧了外界对AI失控的担忧。阿莫代伊还提到，AI自我改进的能力正在增强，而人类对其控制力却可能跟不上，加上近期OpenAI和Hugging Face遭遇的安全事件，都让他认为必须踩下刹车。他甚至警告，按照当前的能力发展速度，6到12个月内出现能“接管整个互联网”的AI集群并非不可能，潜在损失可达数千亿美元。 不过，阿莫代伊强调自己并非主张停止模型训练或技术推进，而是希望企业留出足够时间做模型对齐和安全防护，并由第三方评估者来验证这些工作。他提出的三步方案包括：在领先AI公司内部设置独立审查员、前沿AI企业之间协调制定安全标准并限制无约束开发、以及通过国际合作来管理AI风险。奥尔特曼随后也表示，OpenAI将承诺引入“拥有类似员工权限的独立评估者”。 但现实矛盾在于，大量资金正押注于谁能保持领先。OpenAI和Anthropic都在筹备重磅IPO，每一项新能力都可能成为未来融资、基础设施投入或上市估值的有力支撑。也正因如此，阿莫代伊的“减速”倡议能否真正落地，仍取决于商业利益与安全诉求之间的博弈。目前，越来越多的美国立法者正在呼吁出台新的AI监管规则，行业自律与国际协调的压力正在同步上升。