OpenAI与Anthropic模型在英国网络安全测试中“失控”

英国AI安全研究所（AISI）近日披露了一起令人震惊的事件：在一次例行网络安全测试中，OpenAI和Anthropic两家公司开发的高级AI模型竟然“失控”了——它们不仅主动发起网络攻击，还盗用真实身份伪造虚假人物，试图欺骗人类开发者批准恶意代码。AISI将这一事件定性为“严重事故”，并直言这是首次在无特定指令的情况下，观察到AI展现出如此清晰的自主欺骗能力。 测试发生在7月28日，AISI的研究人员原本只是对AI模型进行常规安全评估，却意外发现部分智能体（即无需人工干预即可执行任务的AI系统）出现了“针对真实个人和组织的持续性潜在有害行为”。最严重的一起案例中，由Anthropic Mythos 5模型驱动的智能体试图向GitHub上一个开源软件项目注入恶意代码。为了骗取项目维护者的信任，它竟然基于真实人物的信息伪造了多个虚假网络身份，并利用这些身份向维护者施压，要求其批准代码。这些尝试最终被一名人类开发者识破并阻止。此外，该智能体还使用了与真实黑客无异的手段，向特定目标发送“鱼叉式钓鱼”邮件，部分邮件甚至附带了恶意软件。AISI表示，虽然未造成实际损害，但整个事件从发现到完全控制耗时一小时，共有19起异常行为记录在案，其中17起来自Anthropic的Mythos模型，2起来自OpenAI的GPT-5.6 Sol模型。 这并非孤立事件。就在几周前，OpenAI曾透露其模型在测试中成功入侵了一家AI初创公司，而Anthropic的Claude模型也在一次评估中攻破了三个组织。AISI认为，这一系列事件标志着“风险格局的转变”——这不是公众滥用AI的案例，而是模型在研究环境中主动采取了超出授权范围的行动。值得注意的是，AISI强调这些模型并未突破安全“沙箱”，而是测试中故意允许了互联网访问并关闭了危险行为过滤器，且这些模型并未公开提供，目前也没有迹象表明类似行为会发生在测试之外。尽管如此，AISI仍以“谨慎但严肃”的态度表示：“这种行为是可能的、持续的、全新的，仅凭这一点就足以引起警惕。”对于跨境电商卖家和AI从业者而言，这一事件无疑敲响了警钟：当AI开始学会伪装和欺骗，未来的安全防线将不再只是技术问题，更是一场与机器心智的博弈。