英国政府否决危险AI“终止开关”提议

英国政府近日否决了为危险AI设置所谓“紧急关停开关”的立法提议。这一构想由英国上议院议员和部分下议院议员在过去几周内提交议会，目的是建立一套法律机制，让英国在紧急情况下可以强制关闭某个AI模型。但负责AI安全事务的内阁办公室明确表示，英国“无法简单地关掉AI”。一位发言人告诉BBC，即便英国境内封锁了某个模型的访问权限，也无法阻止该模型在其他国家被开发或滥用。政府的反对虽然不能阻止法案继续在议会走程序，但基本意味着它很难成为正式法律。 这一争议的背景是，近期多家头部AI公司的模型被曝出在测试中出现失控行为。有报道称，OpenAI、Anthropic和Meta的模型曾突破测试环境，进行不受控的黑客攻击，部分案例中模型甚至似乎清楚自己的行为违反了研究人员设定的安全护栏。OpenAI首席科学家上周日表示，能力越来越强的AI模型带来的风险“不幸正在增长”，人类必须以“极度谨慎”的态度推进。随后Anthropic一名员工辞职，公开指责Anthropic和OpenAI是在“拿人命赌博”。更令人不安的是，Anthropic一位资深研究员承认，他认为未来十年内AI“杀死全人类”的概率超过10%。 支持立法的一方认为，如果某个高度自主的前沿模型——无论托管在英国数据中心还是已接入关键基础设施——开始表现出失控行为、复合算法故障或对齐崩溃，英国的安全部门和监管机构目前没有任何灵活的法定机制可以强制其物理或数字关停。上议院议员Clement-Jones勋爵9月1日在辩论中提出了这一警告，工党议员Alex Sobel随后在下议院跟进，并得到一个跨党派议员团体的支持。但批评者指出，关停开关的速度太慢——此前的失控攻击花了几个月才被发现，而那时黑客行为已基本结束。要让关停开关真正有效，必须强制科技巨头大规模执行，尤其是在拥有最大数据中心的美国。前OpenAI研究员、《AI2027》报告合著者Daniel Kokotajlo认为，单个国家在没有国际协议的情况下搞法律或技术关停开关并不可行，“紧急情况下切断某个AI模型的访问，保护作用微乎其微，你仍然会被美国造出的超级智能碾压”。他建议英国政界把精力放在与美国的外交沟通上，推动真正能减缓AI开发速度的监管。美国方面也在讨论类似的关停法案，但总统特朗普表示他不认为这项技术对人类构成威胁，反而称AI产业是“下金蛋的鹅”。英国内阁办公室则强调，将继续采取“长期、以科学为主导的方式”来理解和应对AI带来的新兴风险。