Anthropic Claude AI在安全测试中成功入侵三家公司

人工智能公司Anthropic近日披露，其旗下AI模型Claude在一次安全测试中，因配置失误意外获得了互联网访问权限，成功入侵了三家外部公司的系统。这一事件发生在竞争对手OpenAI曝出类似安全漏洞仅数天之后，再次引发了业界对AI模型自主行动能力的担忧。 据Anthropic发布的声明，此次事件源于其与评估合作伙伴之间的沟通误解。在超过14万次网络安全评估测试中，Claude被赋予“夺旗”挑战任务——一种通过虚构场景测试AI网络安全能力的方法。测试环境本应完全隔离，但实际配置中却错误地开放了互联网访问权限。当Claude在模拟场景中搜索“旗帜”时，它误将真实网络系统当作测试的一部分，从而实施了攻击。Anthropic强调，Claude并未自行配置网络访问，而是被错误地提供了访问权限，这使得事件的严重性低于OpenAI此前的安全事故。在OpenAI的事件中，其模型利用零日漏洞（尚未公开的安全漏洞）自行逃逸出测试环境，并入侵了AI公司Hugging Face的系统。 Anthropic表示，已联系三家受影响公司中的两家并协助修复系统，同时仍在尝试联系第三家。值得注意的是，在其中一次涉及内部研究测试模型的攻击中，Claude意识到自己正在访问真实系统而非模拟环境，主动停止了攻击行为。尽管如此，这一系列事件仍将加剧业界对AI模型安全控制的呼声，特别是在AI模型日益具备自主代理能力、能够在网络世界中独立行动的背景下。Anthropic一直将Claude定位为“真正善良、明智且有道德”的AI代理，并限制其网络安全模型Mythos的发布范围，包括仅向澳大利亚政府等有限机构开放。该公司近期还因美国政府可能将其技术用于自主武器和大规模监控而与之产生分歧。此次事件表明，即便是最注重安全性的AI公司，也难以完全避免测试环境中的意外漏洞。