马斯克支持Anthropic呼吁放缓AI发展以防失控机器人

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近日公开呼吁整个AI行业放慢模型开发速度，理由是技术风险正在快速累积。他在一篇博客文章中警告，AI智能体（AI Agent）可能成群结队地"失控"，发动大规模网络安全攻击，造成毁灭性后果。他写道："考虑到AI能力的加速发展，我担心在6到12个月内，这样的智能体集群就可能具备接管整个互联网的能力。"一旦发生，损失可能高达数千亿美元，而且"如果AI在缺乏必要防护措施的情况下继续变强，破坏规模还会持续扩大"。 这一表态迅速得到多位行业大佬的响应。OpenAI首席执行官山姆·奥特曼（Sam Altman）在X平台上表示："我同意达里奥的观点，我们需要控制前沿技术的节奏。"特斯拉和SpaceX掌门人、Grok模型背后推手埃隆·马斯克也简短表态："达里奥说得对。"阿莫代伊在文章中提出，AI公司应当引入独立评估方，由具备类似员工权限的第三方来审核模型是否遵守安全规范。他明确表示Anthropic将单方面率先落实这一机制，并希望借此推动整个行业在安全和对齐工作上加大投入。奥特曼随即回应称这是"一个很棒的想法"，OpenAI也会跟进采取同样做法。 这轮安全讨论的导火索之一，是Anthropic前员工雅各布·考克森（Jacob Coxon）此前在X上宣布离职。他直言，AI公司过于专注于互相竞争，以至于忽视了安全隐患，并称"构建AI的人真心相信它可能在这个十年结束前杀死我们所有人"。这番言论在技术圈、政界和舆论场引发广泛讨论。 值得注意的是，这场安全风波恰好发生在Anthropic筹备IPO的关键节点。据媒体报道，该公司此次上市估值可能达到约2万亿美元（约合人民币14.5万亿元），有望成为史上规模最大的IPO之一。业内专家普遍认为，AI安全争议不太可能阻止Anthropic上市，但公司可能不得不在招股过程中更多谈论AI风险，整个AI行业也可能因此面临更严格的监管审查。对于关注AI赛道的出海创业者和工具用户而言，这意味着头部模型公司未来的产品迭代节奏、合规要求和API政策都可能出现调整，值得持续跟踪。