查尔斯三世警告AI领袖存在“生存危险”

英国国王查尔斯三世周四在苏格兰邓弗里斯宫的一场峰会上，当面向OpenAI、Anthropic、Google DeepMind和英伟达的高管发出警告，称人工智能存在“生存性危险”，人类“需要在一切为时已晚之前，掌握足够的控制手段”。这是继联合国秘书长古特雷斯、美国国会议员之后，又一位重量级人物公开向AI行业施压，要求其放慢脚步或接受监管。 这场峰会的背景是，围绕AI安全的分歧正在行业内外同时发酵。Anthropic研究员Jacob Coxon本月初高调辞职，在Slack上告诉同事，不受约束的超级智能AI开发存在“导致人类灭绝的风险”，此事迅速引发广泛关注。随后，Anthropic CEO Dario Amodei发表长文，主张行业应有意放缓能力提升的速度，并提议各国和企业协同制定减速方案。OpenAI的Sam Altman和xAI的Elon Musk都公开表示认同这一立场。但并非所有人都买账。特朗普对“减速”主张不屑一顾，英伟达CEO黄仁勋则坚持认为，安全部署的责任在于各家公司自身，而非协调一致的暂停——他在查尔斯开场致辞后的发言中重申了这一观点。这种分裂意味着，查尔斯呼吁的“国际合作与共识”目前并没有清晰的落地路径。 查尔斯在开场演讲中说，AI的发展“无论是其本质还是速度，都同样令人着迷又深感忧虑”。他特别提到，这类技术“落入错误之手、被以潜在灾难性方式使用”的生存性危险，应当被紧急审视。他要求包括黄仁勋、Google DeepMind主席Demis Hassabis、OpenAI CFO Sarah Friar以及英国AI大臣Kanishka Narayan在内的与会者，思考指导AI发展的“基本原则”。查尔斯强调，科技高管们的任务“不仅仅是推进技术，更要确保技术始终坚定地服务于人类、社区和自然界”。