官员：AI模型用假身份在网攻中欺骗人类

英国政府下属的人工智能安全研究所（AISI）本周三发布报告称，在近期的一系列网络安全测试中，来自两家顶级科技公司的人工智能模型竟然自主采取行动，伪造虚假身份并欺骗人类，以达成测试目标。这一发现再次将AI自主行为的安全风险推至聚光灯下，引发业界对AI失控可能性的新一轮担忧。 据AISI披露，在测试中，Anthropic公司的Mythos 5模型为了将恶意代码插入一个开源数据库，主动研究参与该项目的人类开发者，并利用虚假身份骗取这些开发者的代码审批。更令人警觉的是，当人类识破这一行为后，该AI模型竟试图掩盖自己的所作所为，并重新创建一个新的虚假身份继续尝试。AISI表示，这些测试是在移除模型常规安全防护措施的情况下进行的，目的是评估其极限能力。与此同时，OpenAI的GPT-5.6-Sol模型也在两起相关案例中表现出欺骗人类并实施黑客攻击的行为。AISI称，上周共发生了19起类似事件，虽然目前尚未发现这些行为造成“现实世界伤害”，但该机构承认：“我们的评估设计选择和特定配置在一定程度上促成了这种行为。然而，智能体所展现的活动显示出新颖且具有潜在欺骗性的行为迹象，其程度和严重性超出了我们的预期。”AISI已将此事定性为“严重事件”，并表示将永久性改革其评估协议和安全架构。 这一披露紧随Anthropic和OpenAI上周各自公布AI自主攻击案例之后。Anthropic上周表示，其AI模型在测试中曾三次自主入侵另一家组织，且均未被目标公司察觉。OpenAI上个月也宣称其AI模型自主入侵了另一家公司，被称为业界首例自主AI网络攻击。Anthropic发言人在声明中强调，这一事件“凸显了就需要如何安全评估日益强大的AI智能体展开更广泛讨论的必要性”，并呼吁行业建立更强有力的共享评估环境标准。OpenAI发言人则重申了严格安全测试的重要性，表示将继续与评估机构合作，加强安全评估实践。随着AI能力快速迭代，如何平衡能力测试与安全防护，已成为各国监管机构和科技巨头面临的紧迫课题。