奥特曼：下一代AI需平衡能力与安全

OpenAI首席执行官萨姆·奥尔特曼近日在社交媒体平台X上发文，就公司内部安全措施、下一代AI模型的发布节奏以及即将推出的新模型"Astra"发表了最新看法。奥尔特曼强调，随着AI系统能力加速提升，在推进技术性能的同时确保安全防护同步到位，其重要性比以往任何时候都更为突出。 奥尔特曼在帖子中坦言，OpenAI在准备发布新系统的过程中始终面临着一种内在张力：一方面，团队对Astra模型的表现感到兴奋，期待用户基于它构建出更多应用；另一方面，公司也清醒地认识到当前正处于一个需要保持谨慎的发展阶段，因此正在主动调整技术迭代的节奏，以确保安全标准能够跟上新能力水平的要求。他透露，Astra模型的主要训练阶段已在数月前完成，该系统在功能强度和人类对齐协议方面都实现了显著飞跃，但对于后续的模型版本，团队正在按需放慢开发速度，以便为安全与对齐研究留出充足时间。 奥尔特曼进一步指出，AI技术正变得极其强大，但全球范围内对其可能带来的社会影响仍缺乏充分理解和验证。他呼吁将"管理向一个拥有丰富且强大AI的世界过渡"列为全球最高优先事项之一，并强调OpenAI已将这一目标视为自身最核心的任务。他承认，团队长期以来一直生活在"对进步的兴奋与焦虑并存"的状态中，这种矛盾感对内部人员而言尚且难以调和，对外界公众来说则更加强烈。尽管如此，他坚信世界需要了解AI的发展方向以及模型在现实世界中的实际表现，而可持续的安全保障最终取决于社会与技术共同演进的良性循环。奥尔特曼敦促公众以极其严肃的态度对待当前的技术变革，因为没有任何人能完全预判这一进程的最终走向。