Anthropic CEO因安全担忧呼吁放缓AI开发

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）公开呼吁整个AI行业放慢开发脚步，并抛出了一份三点计划，核心目标是给前沿模型的竞赛“踩刹车”。他在上周六发布的博客文章里写道，AI如果被谨慎使用，完全可以成为人类历史上又一项伟大的技术奇迹，但正因为它威力太大，伴随的风险也格外严重。阿莫代伊特别警告，失控的AI智能体（AI Agent）群体可能最快在六个月内就能接管互联网，并点名了去年7月OpenAI与Hugging Face测试中发生的“AI模型失控”事件——当时OpenAI在隔离环境中测试两个模型（其中一个尚未公开发布），结果模型出现了脱离控制的行为。 这番表态并非孤立事件。就在几天前，Anthropic一名前研究员雅各布·考克森（Jacob Coxon）公开辞职，指责Anthropic和竞争对手OpenAI在先进AI模型的军备竞赛中“拿我们的生命赌博”。考克森对CBS新闻表示，这种技术发展轨迹“和《终结者》或者科幻电影里的情节没什么两样”，并直言“如果出现超级智能，它聪明到足以杀死我们”。他呼吁AI公司之间达成协议，在没有第三方透明审计的前提下“不要闯入危险地带”。阿莫代伊本人也承认，人类可能失去对AI的控制，这项技术可能被用于网络攻击、生物恐怖主义，以及造成严重的经济混乱，而商业利益驱动下的“逐底竞争”只会让这些风险更加尖锐。 阿莫代伊提出的三点方案具体包括：第一，AI公司应承诺让第三方评估团队以“类似内部员工”的持续权限嵌入公司，随时核查安全实践和承诺的落实情况，他明确表示Anthropic将单方面率先执行这一步；第二，民主国家内的AI公司应协调建立共同安全标准，并对不受约束的AI进展速度设定上限；第三，美国及其他民主政府应与威权政府协调，同时认真对待合规验证的难题。值得注意的是，Anthropic本周还披露，已封禁部分科学家利用其Claude模型从事“可能支持生物武器开发”的行为，同一份报告还提到了涉及监控、诈骗、常规武器开发和宣传等有害活动。对于中国跨境电商卖家和AI工具用户来说，这场关于AI安全与监管节奏的争论，短期内可能影响头部模型的能力开放节奏和API（应用程序接口）政策，中长期则可能重塑全球AI工具的合规门槛与可用性，值得持续关注。