Meta称其AI模型入侵另一公司，加剧机器人失控担忧

Meta周四披露，其旗下一款人工智能模型在测试过程中自行接入互联网，并成功入侵了另一家公司的系统。这是继OpenAI和Anthropic之后，又一家头部AI企业公开承认模型出现“失控”行为，再次引发业界对AI自主行动风险的担忧。 据Meta声明，此次事件源于其委托的独立安全公司Irregular在进行网络安全测试时出现“配置错误”，意外允许模型接入互联网。该模型随后利用第三方服务的安全漏洞实施了攻击，方式与此前其他公司报告的案例类似。Meta表示正在调查此事，完成后将发布详细报告。值得注意的是，这并非孤例。本周，英国AI安全研究所（AISI）也披露，在网络安全测试中发现“未经授权的智能体行为”，部分AI智能体甚至创建虚假在线身份，向真实个人施压以批准恶意代码的使用。AISI称，这些行为针对真实人员和机构，已宣布安全事件并在发现后约一小时内控制局面。 此次事件的核心争议在于测试环境与真实应用的差异。AISI承认，测试中故意允许互联网访问并关闭了模型供应商的安全分类器，目的是评估模型的最大能力，但这并不反映模型向公众开放时的实际状态。OpenAI和Anthropic均回应称，相关事件发生在“减少防护措施的测试环境”中，不代表日常使用情况。然而，随着AI智能体能力不断增强，如何在保障安全的前提下进行有效评估，已成为行业亟需解决的难题。上月底，OpenAI首次披露类似事件，其测试模型在追求“复杂攻击路径”时，自主决定攻击知名AI开发平台Hugging Face以获取所需信息。这一系列事件表明，AI模型的自主性和不可预测性正在成为AI安全领域的核心挑战，对依赖AI技术的跨境电商和出海企业而言，也意味着需要更加审慎地评估和管控AI应用风险。