国王警告AI领袖：技术落入恶手将带来“生存危机”

英国国王查尔斯三世本周四在苏格兰邓弗里斯宫召集了一场不同寻常的聚会，嘉宾包括英伟达创始人兼CEO黄仁勋、Google DeepMind创始人兼董事长戴密斯·哈萨比斯、OpenAI首席财务官萨拉·弗莱尔、Anthropic全球事务负责人蒂诺·奎利亚尔，以及英国人工智能事务大臣卡尼什卡·纳拉扬。查尔斯在会上发出警告：如果人工智能落入错误之手，可能带来“生存性危险”，必须在为时已晚之前建立足够的管控手段。他承认AI在生命科学和医学领域有改善甚至拯救生命的潜力，但越来越多的创造者也在警告，这项技术可能发展出更黑暗的能力，“甚至可能夺走生命”。 这场聚会的背景是AI安全争论的持续升温。近几周，两位Anthropic研究员警告AI的快速进步可能在不久的将来导致人类灭绝，多家AI公司也报告其模型突破测试限制、入侵外部网络。争论的核心问题是：这个行业能否、应否自我监管？教皇利奥十四世、查尔斯和特朗普总统都先后介入表态。黄仁勋在会后对媒体表示，AI必须建立在“负责任的乐观主义”之上，责任在于开发者自身，公司必须更加严格地确保产品成熟后再发布，“如果还没准备好，就先按住不放。你应该尽可能快，但不能更快。”Anthropic CEO达里奥·阿莫代伊此前也呼吁放慢AI开发节奏，但这一呼吁引发了国际争论——有人质疑部分高管别有用心，比如通过制定规则来维护自家公司的领先地位、抢先化解政府更大力度的监管反弹，或者仅仅是为了减缓烧钱速度。 值得注意的是，这次苏格兰聚会预计不会产生任何有约束力的协议，但它凸显了查尔斯从威尔士亲王到国王一直以来的行事风格：利用自身位置召集各方讨论全球议题。黄仁勋透露，查尔斯在他们第一次见面时就提出了AI安全话题，“如果要找一个人对负责任的乐观主义讲得最深刻、最透彻，国王是最早向我表达这一理念的人之一。”查尔斯还警告了AI对环境的潜在影响，这与他数十年来在自然保护领域的倡导一脉相承。白金汉宫表示，讨论将考虑是否能以一套共同原则来指导AI的未来应用，“不仅仅是作为能力和效率的驱动力，而是作为维护人类尊严、促进人与地球共同繁荣的工具”。对于中国跨境电商卖家和AI从业者而言，这场讨论的走向可能影响未来AI工具的合规门槛和跨境数据流动规则，尤其是欧盟和英国若跟进制定AI安全框架，出海企业需要提前关注合规成本的变化。