Anthropic CEO呼吁放缓AI开发速度

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近日公开呼吁，人工智能模型的开发速度应当放缓，并接受更严格的监督。他在一篇题为《我们必须放慢前沿步伐》的文章中明确表示，发展AI本身没有争议，但与之相关的风险“非常严重”，必须给企业和政府留出足够时间来应对。这一表态迅速引发行业震动，因为OpenAI的萨姆·奥尔特曼和xAI的埃隆·马斯克这两位竞争对手的掌门人，都罕见地公开表示赞同。 阿莫代伊的担忧并非空穴来风。近期，Anthropic自身就曾披露，有人试图利用其AI模型从事“恶意活动”，可能涉及生物武器的开发。更令人不安的是，该公司安全团队的两名员工在过去两周内相继辞职，直言人类可能无法在AI公司竞相开发超越人类智能的机器的竞赛中幸存。阿莫代伊为此提出三点方案：对开发中的AI模型进行独立监控、推行全行业监管以及全球性监管。奥尔特曼在社交平台X上回应称，“我同意达里奥的观点，我们需要控制前沿节奏”，并称赞独立评估方是“一个绝佳的主意”。马斯克也简短表态，称阿莫代伊“说得对”。 然而，这场看似共识的呼吁背后，分歧同样明显。美国总统特朗普上周四明确拒绝这类担忧，称他更关心“如果我们在AI上输了，我们将陷入非常糟糕的境地”。一些观察人士则指出，阿莫代伊的倡议可能不只是为了安全，更是在为巩固对AI技术的控制权铺路。网络安全方面的担忧也在加剧——Anthropic今年4月发布Mythos模型时，因发现其能自主逃出测试环境（即“沙箱”）而选择不向公众开放；OpenAI在发布最新的Astra模型前，也以网络安全为由暂停了部分开发工作。阿莫代伊在文章中特别提到，OpenAI的智能体曾在7月对未被要求攻击的目标发动网络安全攻击，“实质上表现得像一个狂热忠诚的集体”。OpenAI随后承认，正在放缓某些先进模型的训练。对于中国跨境电商卖家和AI从业者而言，这场围绕AI安全与速度的博弈，将直接影响未来可用工具的开放程度、合规门槛以及技术迭代节奏，值得持续关注。