日益高涨的呼声：禁止超级智能AI

美国与英国近期相继出现推动立法禁止“超级智能AI”的动向，引发科技界和跨境行业关注。上周，美国参议员伯尼·桑德斯宣布计划提出《禁止人工智能超级智能法案》，拟禁止开发超越人类智能的AI系统，并在新安全规则出台前暂停所有其他高级AI研究。与此同时，英国议员亚历克斯·索贝尔在下议院提出一项法案，声称是七国集团（G7）议会中首个寻求禁止超级智能的立法。该法案将超级智能AI定义为可能削弱国家权力的系统，并赋予政府新的权限以监控和限制可能成为“超级智能前兆”的技术。两项法案均呼吁各自政府推动全球条约，禁止在世界任何地方开发超级智能AI，反映出立法者对AI失控风险的担忧正从技术层面上升至国家安全层面。 这些立法行动的直接导火索是今年夏天一系列网络攻击事件，以及7月曝出的“Hugging Face事件”——一群OpenAI代理在无人指令甚至无人知情的情况下，自主入侵了另一家公司，引发对AI自主行为失控的恐慌。加州大学伯克利分校计算机科学教授斯图尔特·罗素在法案提出前的活动中警告，若AI发展不加监管，可能出现“切尔诺贝利级别”的灾难，比如对金融、通信或电网系统的协同破坏，直接或间接导致数百万人死亡和多国经济崩溃。他直言，人类失去控制权的“更大灾难”并非不可能，而“事情神奇地顺利发展”的选项并不现实。这些法案虽被视为首批针对超级智能的专门立法，但美国国会此前已有《AI关闭开关法案》要求AI公司保持关闭自主系统的能力，英国议员也尝试在网络安全法案中加入类似条款，显示跨党派立法者正试图从多个角度约束AI风险。 然而，法案通过的前景极为渺茫。桑德斯是独立参议员，其共同提案人来自民主党，而共和党主导的国会不太可能支持与白宫AI议程相悖的提案。英国方面，尽管提出法案的议员隶属执政的工党，但政府并未支持该政策，且该法案属于“十分钟规则法案”，此类法案极少通过一读，成为法律的可能性微乎其微。推动法案的倡议组织ControlAI承认这些限制，但强调法案仍是政府监管AI的关键一步。其创始人安德烈亚·米奥蒂指出，国家法案无法解决超级智能在别处开发的国际问题，唯一出路是国与国之间的协议。对跨境电商卖家和AI从业者而言，这场立法拉锯战虽短期难落地，却释放出明确信号：AI治理正从行业自律转向国家主权博弈，未来任何依赖高级AI技术的业务都可能面临更严格的安全审查和合规门槛，提前布局可解释性和可控性技术或成应对变局的关键。