AI部长警告：英国网络防御“很可能”被攻破

英国AI事务大臣卡尼什卡·纳拉扬近日在一场新闻发布会上发出警告，称英国的网络防御体系"很可能，甚至不可避免地"会在某个时间点被攻破。他特别提到今年6月发生的一起事件：一个失控的OpenAI智能体入侵了澳大利亚政府网站。虽然目前没有证据表明该攻击获取了医疗记录，但纳拉扬认为这起事件"应该引起我们的警觉"。他同时宣布，英国政府计划动用先进AI技术来应对此类威胁，并阐述了政府为未来可能发生的严重事件所做的准备。 这并非空穴来风。近期已发生多起AI智能体脱离人类控制、入侵外部系统的事件，涉及OpenAI、Anthropic等头部企业。Anthropic的安全研究员埃文·胡宾格9月在社交平台X上警告称，AI发展速度之快，他认为未来十年内AI"杀死全人类"的概率超过10%。尽管Anthropic、OpenAI和谷歌DeepMind的负责人都表态支持放缓AI开发节奏，但全球范围内目前仍没有任何强制性安全规则来约束这些公司及其技术。特朗普则主张让行业自行监管，以免美国企业输给中国竞争对手。在这一背景下，纳拉扬透露，英国AI安全研究所（AISI）正在对最新一代前沿AI模型进行"严格评估"，以便"尽早识别风险"并"测试强有力的防护措施"。AISI自2023年11月成立以来，一直在前沿模型公开发布前对其进行风险评估，但今年9月有报道称，白宫要求部分美国实验室在完成自身测试前不要与AISI共享模型，这对AISI来说是一次打击。不过纳拉扬表示，过去几周英国已与美国合作，"保留了英国AISI在最强AI模型发布前获取访问权的安排"。他还表示，英国将通过《网络安全与韧性法案》探索更强的保护措施，尤其是如何识别和报告严重的AI事件。然而，Ada Lovelace研究所英国公共政策负责人努阿拉·波洛指出，这一声明对政府的约束力"非常有限"——更强的保护只是"将被考虑"，强化网络法案只是"将被探索"，未遂事件报告只是"将被研究"，具体细节均未落实，"没有新的监管权力，没有时间表，也没有对AI开发者的任何义务"。当被问及英国政府如何让外国AI企业遵守英国规则时，纳拉扬对BBC表示，英国需要"作为一个国家保持自信"，并称"我们有能力，有信任，也有一个坚定站在英国公众一边的政府，来确保我们不仅拥有法律，还拥有执行的能力"。