萨姆·奥特曼指出AI未来面临的两大风险

OpenAI首席执行官山姆·奥特曼近日在社交平台X上发文，点出了人工智能发展道路上两个最令他担忧的风险场景。他认为，如果这两个问题得不到妥善解决，AI的未来可能走向失控或极度集权，而这两种结局都必须避免。 奥特曼所说的第一个风险，是人类可能失去对AI未来的控制权。他明确表示，OpenAI“毫不掩饰地站在人类这一边”，AI必须始终服务于人，为此需要确保对齐技术和安全手段始终领先于模型能力的进步。第二个风险则是权力的过度集中——如果某个国家或某家AI实验室掌握了异常强大的AI系统，并借此把自己的世界观强加给所有人，结果可能“极其反乌托邦”。他强调，避开这两大威胁需要走一条狭窄的中间道路，既要防止单一国家权力过大，也要防止单一实验室坐拥过强实力。 这番表态并非孤立出现。此前奥特曼已呼吁美国AI企业遵守安全标准，并表示欢迎联邦层面出台统一的前沿AI安全要求框架。他透露，OpenAI目前会在预期能力大幅提升的前沿强化学习训练之前，提前制定明确的安全案例，而不仅仅是在模型发布前做例行安全准备。与此同时，Anthropic首席执行官达里奥·阿莫代伊也撰文呼吁AI实验室“放慢前沿模型的开发节奏”，并建议引入第三方评估者，赋予其接近公司员工的系统访问权限，以便核实安全措施落实情况、报告事故并评估训练中的模型对齐状态。奥特曼对此回应称，这一思路“是个好主意”，OpenAI也将采取同样做法，更多细节将很快公布。当前，随着模型能力日益精进，如何在加速创新与守住安全底线之间找到平衡，已成为美国AI行业无法回避的核心议题。