伯尼·桑德斯与格雷格·卡萨尔提议禁止AI“超智能”，违者面临20年监禁

美国国会围绕人工智能监管的争论再度升温。佛蒙特州独立参议员伯尼·桑德斯与得克萨斯州民主党众议员格雷格·卡萨尔周三联合推出一项激进法案，名为“禁止人工超级智能法案”，全文19页，核心要求是在联邦政府设立内阁级别的“人工智能部”并由一名“AI部长”主导监管之前，暂停所有先进AI的研发工作。法案规定，违规企业将面临被他们称为“企业死刑”的处罚，相关责任人最高可判处20年监禁。桑德斯强调，这一刑期与非法制造核武器相同，足见其对该技术潜在风险的判断之严厉。该法案是国会一系列AI监管提案中最激进的之一，但外界普遍不预期今年内会有任何实质性立法通过。 法案的关键在于对“超级智能”的界定。文本列出了一系列先兆条件，其中包括“具备自动化或极大加速人工智能研发过程的能力”。参与起草的助手透露，立法意图是禁止AI系统进行递归式自我改进——即AI通过自我训练不断变得更聪明、能力更强，最终可能脱离人类控制。桑德斯在周三的电话会上对记者表示，国会“几乎没有做任何准备来应对即将到来的海啸”，而AI“显然是世界历史上最具变革性的技术，发展速度极快”，且“由地球上极少数最富有的人推动，他们的主要目标就是增加自己的财富和权力”。不过，技术专家指出，在技术层面定义“超级智能”将非常棘手，因为不同级别AI能力之间的边界本就模糊。这种模糊性因特朗普总统周二在联合国大会演讲中宣布将政府文件中的“人工智能”改称为“超级智能”而进一步加剧。 该法案获得了倡导AI管制的团体ControlAI的赞扬。该组织在博客中写道，他们赞赏以“能否压倒联邦政府”来定义超级智能AI，认为这精准针对了可能带来灭绝风险的AI研发，同时无需事先解决技术细节。得克萨斯大学法学院教授、AI政策专家凯文·弗雷泽也肯定了立法者的努力，称法案正确认识到国会需要迅速行动，防止AI发展导致不可逆的负面后果。但他同时指出，法案忽略了其他防止AI危害的途径，例如建立独立验证机构来监督领先AI公司的安全实践——这一提议近一周在硅谷和联合国大会上获得了更多关注。华盛顿方面也有反对声音。倡导亲商业AI立法的行业组织“国家AI协会”总裁兼CEO卡莱布·马克斯表示，桑德斯的法案在AI行业和华盛顿都将“一到即死”。