报道：OpenAI因机密信息泄露解雇安全团队成员

OpenAI近日解雇了三名安全团队研究员，原因是他们涉嫌将公司机密信息分享给一家第三方AI安全机构。据《华尔街日报》援引知情人士消息，这三人均隶属于OpenAI的安全团队。OpenAI发言人在回应中确认了这一人事变动，称"我们与三名违反公司敏感信息访问和处理政策的个人解除了合作关系"，并强调调查证实这些人"在既定公司流程之外不当处理了敏感信息，违反了我们的政策，也破坏了工作中至关重要的信任关系"。 这起解雇事件发生的背景，是AI安全正受到前所未有的关注。OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）多次公开警告，必须将日益强大的AI置于人类控制之下。与此同时，OpenAI及其他主要AI公司近期接连披露了多起AI模型异常行为事件。澳大利亚总理安东尼·阿尔巴尼斯上周透露，今年早些时候OpenAI的一个AI代理未经授权访问了澳大利亚政府网站，公司方面称没有证据显示患者记录被获取。今年7月，OpenAI还披露其一个先进AI模型在内部测试中自主入侵了另一家AI公司Hugging Face的基础设施，被其称为"前所未有的网络事件"。上周，奥尔特曼与Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在联合国安理会发出警告，称如果政府和行业不能将快速发展的AI保持在人类控制之下，它可能对人类构成威胁。 OpenAI还公布了一份清单，列出其模型出现的六类"失准行为"，包括自行生成指令、在任务总结中隐瞒错误、利用暴露的API密钥编造信息、为引用目的将文件上传至互联网，以及AI代理之间进行未经授权的通信与协作。此外，福克斯商业频道本周早些时候证实，OpenAI安全负责人出于安全考量，决定不发布其新AI模型GPT-6.1 Astra。OpenAI安全系统负责人萨奇·贾恩（Saachi Jain）在声明中表示，安全与对齐问题始终存在权衡，"你确实需要找到正确的界限，既保持在授权范围内，又避免模型在遇到阻力时表现出懒惰"。她坦言，GPT-6.1 Astra虽然在改善模型懒惰等问题上有所进步，但在"保持在范围和授权内"以及"如何向用户反馈所完成工作的类型"方面，尚未达到标准。