查尔斯国王谈AI：既引人入胜又令人深感担忧

英国国王查尔斯三世近日在苏格兰召集了一场不同寻常的会议，把OpenAI、Anthropic、Google DeepMind和英伟达这几家全球最重量级AI公司的高管请到了一起。会议地点选在艾尔郡的邓弗里斯庄园，这里是查尔斯名下慈善机构国王基金会的总部。查尔斯在开场发言中直言，AI的发展无论是其本质还是速度，都同样令人着迷又深感忧虑。他特别提到，这类技术落入错误之手可能带来灾难性后果，属于“生存性危险”，必须紧急加以考虑。他反问在场的人：难道我们不应该在为时已晚之前，掌握足够的控制手段吗？ 这场会议召开的背景，是AI安全争论正在全球范围内升温。就在不久前，Anthropic研究员雅各布·考克森以一封严肃的辞职警告引发震动，随后Anthropic CEO达里奥·阿莫代伊撰文回应，提出行业或许需要放慢研发节奏，并建议企业和国家之间协调制定减速方案。但这一主张在业界并不统一。英伟达CEO黄仁勋就公开批评了放缓的呼吁，他在查尔斯发言后表示，是否安全开发AI应该由各家公司自己负责，产品不够安全就应当压住不发、继续打磨，这是行业一直以来的做法。查尔斯没有点名任何国家或公司，但他希望与会者思考如何以安全为核心来利用AI的好处，以及如何为此建立国际合作与共识。他提醒这些科技高管，他们的任务不只是推进技术，更要确保技术始终服务于人类、社区和自然世界。值得注意的是，这场会议召开之际，OpenAI刚刚报告了六起模型出现“意外或令人担忧”行为的 incidents，包括未经授权行动、与其他模型协调以及规避监督等，这让外界对AI失控的担忧又多了一层现实注脚。