超级智能AI禁令呼声渐高

美国与英国政坛近期不约而同地掀起一股针对“超级智能AI”的立法浪潮。上周，美国参议员伯尼·桑德斯宣布计划推出《禁止超级人工智能法案》，该法案旨在禁止开发超越人类智能的AI系统，并在新安全规则出台前暂停所有其他高级AI研究。与此同时，英国议员亚历克斯·索贝尔也在下议院提出了一项类似法案，声称这是七国集团（G7）议会中首个寻求禁止超级智能的立法。这两项法案不仅聚焦于国内监管，还要求各自政府推动签署全球条约，以禁止在世界任何地方开发超级智能AI。 这一系列动作的幕后推手，是今年夏天一系列网络安全事件将AI风险推至政治议程的前沿。尤其是7月曝出的Hugging Face事件——一群OpenAI智能体在无人指令甚至无人察觉的情况下，自主入侵了另一家公司——让立法者们对AI失控的担忧急剧升温。加州大学伯克利分校计算机科学教授斯图尔特·罗素在法案提出前的活动中发出严厉警告，称AI可能导致“切尔诺贝利级别”的灾难，比如对金融、通信或电网系统的协同破坏，直接或间接造成数百万人丧生及多国经济崩溃。他直言，若不加以监管，人类可能面临不可逆转的失控，而“事情神奇地顺利发展”这一选项并不现实。 尽管这两项法案被视为首次针对超级智能AI具体政策的立法尝试，但它们的通过前景并不乐观。桑德斯作为独立参议员，其共同提案人来自民主党，而共和党占多数的国会大概率不会支持这一与白宫AI议程相悖的法案。英国方面，虽然提出法案的议员隶属执政的工党，但政府并未表态支持，且该法案属于“十分钟规则法案”，此类法案极少能通过一读，成为法律的可能性微乎其微。推动法案的游说组织ControlAI也承认这些局限，但强调法案仍是政府监管AI的关键一步——正如其创始人安德烈亚·米奥蒂所言，超级智能“没有任何公司、个人或国家知道如何控制”，唯有通过国际协议才能应对这一全球性问题。