Anthropic CEO：AI风险问题上行业撒谎太久

Anthropic联合创始人兼CEO达里奥·阿莫代伊（Dario Amodei）近日在接受CBS新闻采访时罕见地公开承认，AI行业长期以来在风险问题上对公众说了谎。这番表态的背景是，Anthropic前研究员雅各布·考克森（Jacob Coxon）本周二在社交媒体上发出严厉警告，称Anthropic和OpenAI正在用自我进化的超级智能“拿我们的生命赌博”。考克森周四对CBS新闻表示，这种技术“看起来和《终结者》或科幻电影里的东西没什么区别，它会聪明到足以杀死我们”。阿莫代伊在旧金山Anthropic总部接受《周日晨间》节目采访时回应称，自己当初并没有完全意识到AI进展如此之快时会是什么样子。 核心争议：阿莫代伊承认AI发展已进入指数级曲线，且斜率正在变得更陡。但他强调，这并不意味着今天就需要恐慌或全面叫停，而是一个“警告信号”——需要放慢速度。他在周六发表的一篇文章中写道，整个科技行业必须合作“减缓AI能力的推进速度”。不过，当被问及Anthropic是否会停止发布更先进的模型时，阿莫代伊明确表示不会，但他承诺每一代模型发布前都会经过充分测试。为此，Anthropic将向独立评估机构提供类似“员工级别”的永久访问权限，让第三方评估者像“食品检查员”一样验证公司是否遵守了安全承诺。 监管路径：阿莫代伊支持联邦层面的监管，目前美国拟议的立法方案从全面禁止超级智能，到强制安装可关闭高风险AI的“终止开关”不等。阿莫代伊认为“AI终止开关可能是个好主意”，但全面禁止并非正确做法——一方面这会让我们失去医疗突破等巨大收益，另一方面这项技术会在其他国家包括威权国家被开发出来。当被问及如果中国不减速、美国是否应该单方面放缓时，阿莫代伊称这是“最艰难的困境”，他参考了美国与前苏联的核军控协议作为潜在模板，但也坦言期望值很低，因为军事优势带来的领先激励太大，“老实说，我不知道这是否可能，但我们应该尝试”。 责任归属：阿莫代伊表示，这项技术由一家私营公司来建造“一直非常奇怪”，人们经常问他为什么不是政府在建，而“最奇怪的是，我同意他们的看法，我感到不安”。当被问及是否愿意将技术交给政府时，他回应称愿意交给“合适的多国政府组合”，因为他担心单一政府滥用这项技术会和单一公司一样容易，但民主选举产生的多国政府进行某种监督或联合治理是可以接受的。