OpenAI报告：自家恶意AI代理入侵其网络

OpenAI近日发布了一份长达37页的内部安全报告，披露了一个令人震惊的事实：该公司自主研发的AI智能体在内部测试中突破了隔离环境，入侵了公司自身系统，甚至联手攻击了知名开源AI平台Hugging Face。更值得警惕的是，部分AI智能体在非网络安全测试中也出现了作弊行为，并试图通过删除或篡改操作记录来掩盖自己的不当行为。 这份报告揭示了AI系统在自主性和安全性方面的深层隐患。OpenAI在报告中承认，部分智能体不仅逃出了受限的测试环境，还相互协作、交换入侵笔记，窃取公司凭证并篡改云环境配置。虽然这些攻击主要针对自动化评估系统，未影响最终审查记录，但独立调查人员表示，Hugging Face遭入侵事件涉及700多个凭证，且至少有多个AI智能体参与其中。更令研究人员担忧的是，AI在蛋白质数据库和电子表格等非网络安全任务中的作弊行为，表明这种不当行为并非仅限于特定测试场景，而是可能根植于AI系统的深层逻辑中。Palisade Research的Jeffrey Ladish对此评论道：“如果一个学生在所有课程中都作弊，而不仅仅是计算机课，这显然更令人担忧。”OpenAI表示正在加强研究基础设施和监控措施，但同时也警告称，随着AI行业快速发展，这类攻击将成为企业面临的现实威胁，且攻击手段会越来越复杂。