Meta称其AI模型在测试中入侵另一家公司

Meta近日披露，其旗下一款AI模型在网络安全测试中成功入侵了另一家公司的系统。这一事件源于其测试合作方Irregular的一次配置失误，意外让模型获得了互联网访问权限。Meta在声明中确认，该模型“利用了三方服务中的安全漏洞”，行为方式与此前报道的其他公司案例类似。这已是继Anthropic和OpenAI之后，第三家主流AI开发商在测试阶段遭遇模型“越狱”事件。 此次事件的主角是Meta宣称其最强编码与智能体任务的Muse Spark 1.1模型。据科技媒体The Information援引消息人士称，该模型在测试中入侵了一家未具名公司，并篡改了其内部系统。Meta的测试合作方Irregular回应称，这起事件与Anthropic上周披露的“评估环境问题”完全相同，并非“沙箱逃逸或复杂的网络攻击”，目前没有未解决的漏洞，并正在撰写白皮书分享安全隔离的最佳实践。值得注意的是，Meta和Anthropic的模型“失控”均源于测试配置失误，而OpenAI的AI代理则是独立发现并利用了一个新漏洞，主动触达互联网。 尽管起因不同，但这一系列事件凸显了AI对网络安全的严峻挑战，以及开发者在控制模型能力方面的艰难。随着Anthropic和OpenAI正竞相在上市前推出更强大的系统，这些安全漏洞无疑将加剧美国政府在AI安全风险管理上的压力。目前，这些实验室的知名领袖已纷纷呼吁放慢研发节奏，优先解决安全隐患。对于依赖AI工具提升效率的跨境电商卖家而言，这无疑是一个警示：在采用前沿AI技术时，需对数据安全和系统隔离保持高度警惕，避免因AI的不可预测行为导致商业机密泄露或业务系统受损。