AI领袖称追求安全，但依据谁的标准？

AI安全峰会一场接一场，但谁来定规则才是真正的博弈。Anthropic CEO达里奥·阿莫代伊、OpenAI CEO山姆·奥特曼、谷歌DeepMind联合创始人德米斯·哈萨比斯等前沿实验室掌门人近期密集发声，表示行业需要更好的安全标准来约束可能带来危险的技术。然而专家指出，这些高管在呼吁监管的同时，也在积极争取主导标准制定的权力，本质上希望按照对自己最有利的方式来定义安全。 生命未来研究所CEO安东尼·阿吉雷对Mashable表示，这些AI公司最近确实“彻底接受了一个事实：他们其实没办法保证这些东西的安全”，但坦白背后附带了一个条件——“他们当然想掌控整个进程”。这意味着头部AI公司真正想要的，是在自己主导下的自我监管，加上由他们定义透明度和问责机制，同时还要获得反垄断方面的政策保证。阿吉雷还指出，尽管这些公司承认存在新兴的安全隐患，但没有一家愿意放弃通用人工智能（AGI）的研发目标。AGI指的是能力匹配或超越人类智能的AI系统，一旦实现，可能导致大量人类岗位被自动化取代，AI决策者也可能凌驾于人类领导之上。阿吉雷认为，AI公司应该“彻底改变方向”，放弃追逐AGI，但他也清楚这些公司大概率不会这么做。 在具体操作层面，谷歌的哈萨比斯今年7月在Substack发文，建议美国参照现有的联邦监管公私合作模式或自律组织，成立一个标准制定机构，并以美国金融业监管局为范本，负责开发模型评估协议，并与联邦机构合作进行国家安全测试。阿莫代伊则在文章中提到，Anthropic支持“合理且有针对性的AI监管”，尤其是在透明度和第三方审计方面，同时他也支持由AI公司自愿制定标准、再由“嵌入式”第三方评估者进行验证。不过专家提醒，不要对这类安全承诺照单全收。人道技术中心政策与研究高级经理皮特·弗兰指出，行业推动自我监管已有时日，“我们看到他们在某些方面谈论监管的必要性，但我不认为他们的行动总能与之匹配”。他补充说，头部公司想保护自己的“行业领导者地位”，可能会寻求一种“闭门系统”的运作方式，让公众对风险和解决方案的参与度降到最低。