教皇的AI顾问担忧大型实验室的‘卡特尔’行为

教皇的AI顾问、方济各会神父保罗·贝南蒂近日公开对大型AI实验室发出警告，称这些公司正在形成事实上的卡特尔，试图垄断AI发展规则的制定权。贝南蒂是罗马第三大学的伦理学教授，同时以哲学、神学和科技学者身份为天主教会提供AI方面的咨询。他在接受连线杂志采访时表示，当前围绕超级智能的种种恐慌叙事，实际上转移了公众注意力，让人们忽视了真正紧迫的问题——如何约束那些正在建造这项技术的公司。 贝南蒂的核心论点直指AI行业的权力结构。他指出，大型实验室通过将AI安全问题描述得极其复杂、仿佛只有他们才能解决，从而把其他所有人排除在讨论之外。他特别点名了Anthropic CEO达里奥·阿莫代伊此前发表的文章，后者呼吁对AI模型实施强制第三方评估，并打击模型蒸馏行为。贝南蒂对此态度谨慎，他认为限制具体开发方法可能扼杀创新，真正需要的是建立确保模型不会脱离人类控制的标准体系。但他强调，这些标准绝不能由实验室自己来设计。当一小群公司决定整个行业的运行规则时，贝南蒂说，这有一个非常明确的名称——卡特尔。他进一步指出，前沿实验室的叙事本质上是自利的，目的是获取或维持市场地位。考虑到OpenAI和Anthropic一方面支持放缓开发，另一方面又在筹备上市，背后涉及数十亿美元的利益，加上中美在AI领域的激烈竞争，这些宏大声明的可信度确实难以判断。 贝南蒂还批评了AI行业谈论超级智能时那种近乎宗教崇拜的语气，仿佛在描述某种超越人类理解、近乎全能的存在。OpenAI CEO萨姆·奥尔特曼曾表示希望建造“天空中的魔法智能”，贝南蒂认为这种框架严重扭曲了关于AI的讨论。他直言，我们讨论的是一个东西，还是一个人？这不是信仰问题，而是数学问题。我们不是在建造下一个神明，只是在欺骗自己以为统计计算之外还有什么别的东西。贝南蒂认为，AI的出现可能为宗教在公共辩论中创造新角色，因为这项技术提出了什么是人、如何保护后代免受技术负面影响等根本性问题。不过他也澄清，虽然自己是神职人员，但并不正式代表梵蒂冈教廷，只是以学者身份为教会提供咨询。