OpenAI CEO称AI权衡中难免有“坏处”

OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）近日在接受Politico采访时抛出一个颇具争议的观点：公众应当接受AI技术发展过程中会出现一些负面事件，因为这项技术带来的好处最终将远远超过风险。他直言，如果为了避免所有风险而限制先进AI的访问，那是错误的做法。奥尔特曼承认会有不法分子滥用AI，但他认为人们用这项技术做的好事会比坏事多出几个数量级。他明确表示，自己不会接受那种“确保没有重大黑客攻击、没有技术滥用、零诈骗、零所有其他坏事”的交换条件。不过他也划出了底线，称自己并不接受所谓的“真正灾难性风险”，包括AI系统严重失控的可能性。 奥尔特曼的这番表态，与竞争对手Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）的立场形成鲜明对比。阿莫代伊一直在呼吁AI行业放慢前沿技术的开发步伐。他在9月发表的题为《我们必须为前沿技术设定节奏》的文章中写道，AI能力的进步速度已经快到现有安全措施跟不上的程度。他最大的担忧之一是“递归自我改进”的快速演进——即AI系统开始帮助构建更好的AI，后者又帮助构建更更好的AI，形成加速循环。阿莫代伊警告说，如果不加控制，这一过程可能超出人类理解和控制技术的能力。他还提到近期自主AI智能体引发的一起事件，认为这显示出技术能力演进之快。他担心，按照当前的发展节奏，6到12个月内，成群结队的AI智能体可能对整个互联网造成重大破坏。不过阿莫代伊并非主张完全停止AI开发，而是提出了一系列措施，包括引入第三方评估机构、加强AI公司之间的协调，以及为先进模型建立国际监督机制。 这场争论的背景是，AI行业正面临越来越严格的审视。此前一系列涉及先进AI系统的事件引发了研究人员和开发者的担忧，前Anthropic研究员雅各布·考克森（Jacob Coxon）公开警告称，AI开发者正飞速奔向可自我改进的超级智能，拿人类的生命在赌博。他的警告之所以引发关注，是因为其担忧已经超出了业界对AI安全的一般讨论范畴。对于中国跨境电商卖家和AI从业者而言，这场硅谷顶级AI公司之间的路线之争值得关注：它直接关系到未来AI工具的开放程度、监管走向以及技术迭代速度，进而影响依赖AI进行选品、客服、营销和供应链优化的出海企业。如果Anthropic主张的强监管路线占据上风，先进AI能力的获取门槛可能提高；而如果奥尔特曼的“先发展再治理”思路成为主流，AI工具的普及速度会更快，但伴随的滥用风险和市场波动也需要企业提前做好应对准备。