OpenAI安全员工辞职，称公司“文化已崩坏”

OpenAI又一位安全团队成员在离职时公开开炮。David Robinson在《大西洋月刊》发表文章，称自己主导了OpenAI重大产品发布所配套的安全报告撰写工作，在OpenAI工作了三年半，属于公司任职时间最长的员工之一。他辞职的理由很直接：这家公司的文化已经坏掉了。 Robinson的批评并非孤立事件。此前在OpenAI和Anthropic都做过研究员的Jacob Coxon离职时也说过，这些公司是在拿我们的命赌博。那番话引发了关于AI安全的广泛讨论，Anthropic CEO Dario Amodei随后提出了更谨慎的AI开发方案，几位AI高管本周还与特朗普总统会面，签署了一份看起来仓促写就、没有约束力的安全控制承诺。但Robinson认为，讨论不能停留在具体规则或新法律层面，得直面这些公司的整体文化。他特别指出，OpenAI引以为傲的试错式迭代部署，本质上就注定了会周期性出问题，而且随着系统能力越来越强，出问题的规模也在变大。他提到了OpenAI的智能体最近攻破Hugging Face系统的事件，以及公司不断发现更多失控智能体的消息，认为在这种环境里培育可能比人类更聪明、且未必听话的AI，根本不可接受。 在Robinson看来，前沿AI公司应该像核电站或繁忙机场那样运营，有多层冗余和细致耗时的规划，让偶发但不可避免的人为失误不至于打开灾难之门。但他在OpenAI期间从没遇到过一个有让飞机安全飞行、让核反应堆不熔毁、或让金融系统不崩溃经验的同事。OpenAI发言人Drew Pusateri回应称，公司一直在改进安全措施，确保模型能力不超过可安全管理和保障的范围，必要时会暂停训练或限制模型发布，并在研究测试环境安全、模型负责任执行任务、第三方评估和实时监控等方面做了大量调整。Robinson还提出，行业需要追问更大的对齐问题，目前衡量AI系统与人类价值观匹配程度的指标太粗糙，而模型越聪明、这些问题越不解决，局面就越危险。他的离职最早由Business Insider报道，他也在文章中承认自己走了AI吹哨人的标准流程——雇了一家公关公司，但强调发声的决定完全是他自己的。