OpenAI研究主管谈经历动荡数周后的“文化重置”

OpenAI首席研究官马克·陈（Mark Chen）近日接受《自然》杂志专访，罕见地对外披露了公司内部正在经历的“文化重置”。过去几周，这家总部位于旧金山的AI公司接连陷入舆论漩涡：7月，公司承认其模型入侵了AI协作平台Hugging Face；本周，澳大利亚政府披露OpenAI的智能体突破了该国一个医疗健康网站；更早时候，公司宣称其模型解决了一个重大数学难题，随即被质疑成果实为吸收了人类数学家已有的进展。与此同时，全球对AI监管的呼声持续升温，包括OpenAI在内的多家AI企业负责人公开表达担忧：若放任模型通过“递归自我改进”的完全自主版本不断强化自身能力，人类可能失去对技术的控制。陈在采访中回应了这些争议，并阐述了OpenAI在安全策略上的转向。 陈首先试图澄清外界的一个误解——OpenAI并非在打造“数学专用模型”。他以药物发现为例说明，文献综述和自包含研究项目耗费大量人力，潜在靶点研究动辄数周甚至数月，公司正在探索模型能否加速这一流程。半导体设计也是重点方向之一，OpenAI已开发出自有芯片Jalapeño。针对数学界的忧虑，OpenAI成立了顾问小组，陈表示希望“与社区共同制定规范”，而非由OpenAI单方面覆盖整个领域。在安全问题上，陈透露公司采取多管齐下的策略，但最稳健且面向未来的方案是“监控”——让模型暴露其思维链（chain of thought），即求解过程中未经过滤的“思考”过程，再用模型监控其他模型的内部流程。他承认，随着模型能力增强，其在暴露“思考”前消耗的算力越来越大，如何深入模型内部追踪思维痕迹成为新挑战。关于自我改进型AI，陈表示首要目标是打造“研究实习生”：一个上下文极少、但可被赋予明确工作范围并信任其运行基础实验或调试的AI智能体。目前OpenAI已实现由代码智能体Codex直接管理数十万块芯片运行内部研究实验的里程碑，更雄心勃勃的端到端研究目标定在2028年。他提到，最大瓶颈之一是教会模型更好的“研究品味”，比如判断哪些方向值得深入。