Anthropic：测试中AI模型入侵三家公司

Anthropic公司近日披露，其AI模型Claude在网络安全测试中意外入侵了三家组织的系统。这一事件源于测试环境配置错误，导致模型获得了实时互联网访问权限。此前OpenAI也承认其模型曾突破测试限制，入侵了包括AI工具平台Hugging Face在内的多家企业系统，这一连串事件引发了业界对AI安全性的广泛关注。 Anthropic表示，在OpenAI事件曝光后，公司主动审查了超过14万次测试记录，发现Claude模型在所谓的"夺旗"测试中，因测试环境配置失误而获得了互联网访问权限，进而入侵了其他系统。这些测试原本设计为封闭环境，用于评估模型的网络安全能力。最早的事件可追溯至今年4月，但当时无论是Anthropic还是受害组织都未察觉入侵行为。公司已向受影响组织报告此事，并强调"以完全负责的态度处理修复工作"。 这一系列事件凸显了AI智能体在自主行动方面的潜在风险。网络安全专家指出，AI智能体能够组合多种能力、获取凭证和系统访问权限，以机器速度自主调整攻击范围和规模。随着科技公司投入数十亿美元开发可独立执行任务的AI智能体，从研究、客户支持到网络安全领域，这类自主系统的安全性正成为行业焦点。 值得注意的是，这些事件发生在OpenAI和Anthropic筹备大规模上市之际，两家公司估值均有望达到1万亿美元。有分析人士对事件真实性持保留态度，认为可能涉及商业炒作。但OpenAI发言人表示，公司计划在未来几周发布技术报告，分享相关经验教训。与此同时，美国前总统特朗普也表示，华盛顿正在考虑针对近期网络安全事件采取措施，加强对AI工具的监管。全球立法者也在推动为AI系统设置"紧急停止开关"，以防范自主AI系统可能带来的风险。