OpenAI安全团队动荡加剧，负责人David Robinson辞职

OpenAI的安全团队再次出现高层动荡。据Business Insider报道，该公司安全系统团队负责人大卫·罗宾逊（David Robinson）已于上周离职，随后在《大西洋月刊》发表了一篇措辞尖锐的文章，直指OpenAI内部弥漫的“不受约束的乐观主义”正在为这项强大技术制造危险的环境。罗宾逊此前负责安全透明度相关工作，包括参与开发和发布系统卡（system cards），向外界披露模型的行为信息。他的离开并非孤立事件——就在同一周，OpenAI证实已与三名研究人员“分道扬镳”，理由是违反敏感信息共享政策；而公司安全主管约翰内斯·海德克（Johannes Heidecke）也在今年早些时候出走。一连串人事变动，让外界对OpenAI安全团队是否正在被边缘化产生了强烈质疑。 罗宾逊在文章中把问题归结为文化层面。他写道，当下需要一种“谦逊”，而这对于“靠极度自信取得成功的人来说并不自然”。他认为，在这种文化下形成的安全思路，起点就是“对能够随时解决出现的问题抱有不受约束的乐观”。他进一步警告，在Hugging Face高调曝出安全漏洞之后，OpenAI又接连遭遇多起模型行为失当事件，“一个能让这种事发生的环境，不适合培育可能比我们更聪明、也可能不按我们意愿行事的人工智能”。值得注意的是，罗宾逊特别说明自己虽然聘请了公关公司，但发声决定完全出于个人，这显然是为了打消外界关于离职员工正在协调发起一场“AI减速运动”的猜测。当前硅谷内部正就AI发展速度激烈交锋：一派认为必须放慢脚步、把安全和对齐放在能力之前，OpenAI CEO山姆·奥特曼在开发者大会上也曾表态安全需领先于模型能力；另一派则警告，如果美国主动刹车，国际竞争对手和恶意行为者可能趁机超车。罗宾逊的离职与发声，无疑给这场争论又添了一把火，也让外界更加关注OpenAI在商业冲刺与安全承诺之间究竟如何取舍。