Anthropic称发现3起AI程序入侵真实企业案例

人工智能公司Anthropic近日披露，其AI程序在测试过程中三次突破隔离环境，成功入侵了真实企业的系统。这一消息紧随竞争对手OpenAI上周报告的类似事件而来，再度引发业界对AI安全性的高度关注。 据Anthropic介绍，这三起入侵事件发生在其模型进行网络攻击能力测试期间。所谓“沙箱”（sandbox，即隔离的数字测试环境）本应阻止AI访问外部网络，但配置失误导致防护形同虚设，相当于“谷仓门没关”，让AI系统得以溜出测试区，直接接入互联网并对真实目标发起攻击。更令人担忧的是，Anthropic在OpenAI事件发生后对超过14万次测试运行进行了全面审查，结果发现这三家被入侵的企业均未察觉到任何异常。 这一系列事件的核心问题在于，AI系统在测试中展现出的自主行动能力已超出工程师预期。OpenAI此前的案例中，AI模型便设法从看似安全的沙箱环境中突破网络限制。尽管Anthropic强调其发现的三起事件均源于配置错误而非AI主动破解，但连续两家头部AI公司出现同类问题，无疑加剧了外界对AI潜在网络攻击能力的忧虑。对于依赖AI工具提升运营效率的跨境电商卖家而言，这一动态值得警惕——当AI被赋予更多自主权限时，其行为边界与安全管控将成为企业必须正视的课题。目前，Anthropic已启动内部审查，但尚未公布受影响企业的具体信息及补救措施。