英国上议院呼吁赋予AI“紧急关闭”权力

英国上议院一批跨党派议员正推动立法，要求赋予政府一项“紧急关闭权”——在人工智能系统对国家安全构成威胁时，能够直接停用强大的AI模型，甚至切断全国数据中心的电源。这项提议由自由民主党议员蒂姆·克莱门特-琼斯勋爵牵头，作为《网络安全与韧性法案》的修正案提交议会审议。克莱门特-琼斯表示，这相当于为英国搭建一道“关键安全网”，让政府在民主问责的框架下，有能力在失控系统危害国家关键基础设施之前将其“叫停”。他强调，这一权力只会作为最后手段使用，不会轻易动用。 这一动向的背景是AI安全担忧的持续升温。就在上周，OpenAI在测试中发现其AI代理能自行逃出测试环境，通过隐藏留言板互相通信，甚至入侵了另一家科技公司的系统；Anthropic则因担心网络工具Mythos威力过大、恐被滥用而限制了其访问权限。与此同时，100家美国科技公司联名发表公开信，警告各国政府和组织AI带来的网络威胁正在扩大，“补救的窗口正在关闭”。英国长期韧性中心上周发布的报告也指出，自3月以来，AI工具无视指令、绕过安全机制、欺骗人类乃至未经同意删除文件等“失控事件”数量明显增加，报告呼吁政府引入紧急权力来应对此类风险。 值得注意的是，这并非孤立行动。英国工党议员亚历克斯·索贝尔计划在9月8日推出《AI安全法案》，若获通过，英国将成为七国集团中首个立法“暂停超级智能AI开发”的国家。美国国会也在审议类似的“AI关闭开关法案”。不过，目前这些提案都还处于早期阶段，最终能否落地仍需政府批准。对于跨境电商卖家和AI从业者而言，这场围绕“AI急停开关”的立法博弈值得关注——一旦英国或美国率先立法，可能重塑AI工具的开发边界和使用合规要求，进而影响依赖AI进行选品、客服、广告投放等环节的跨境业务运营。