AI威胁警告震动国会，大选前难有行动。

2023年9月，马斯克、扎克伯格、奥特曼等科技巨头曾齐聚国会山，与参议员们讨论AI带来的“文明级风险”。三年过去，这些大佬在AI领域的投资不减反增，而美国国会至今没有通过任何一部针对AI的综合性监管立法。即便举行了无数场听证会、成立了多个研究委员会和工作组，参众两院对于如何监管AI依然没有形成共识。这种立法僵局在最近几天被推到了聚光灯下——三家顶级AI公司的研究人员相继离职，公开表示担心AI系统可能失控并终结人类。Anthropic的离职员工Jacob Coxon在X上写道：“构建AI的人真心相信，它可能在这个十年结束前杀死我们所有人。” 这轮警告之所以引发震动，是因为它不再是科幻式的空谈，而是来自AI公司内部的安全研究人员。Anthropic本周四宣布封禁了一批疑似与外国政府或军方有关的账号，理由是这些账号在进行可能支持生物武器开发的敏感研究。上周末，Anthropic CEO Dario Amodei发表长文，直言AI进展过快，企业应当主动“放慢节奏”——这一观点得到了奥特曼和马斯克的支持。这些表态让国会山再度紧张起来，民主党人甚至部分共和党人都承认，留给国会采取行动的时间窗口已经很窄。但现实是，距离选举日仅剩数周，议员们几乎不可能在投票前通过任何实质性法案。马萨诸塞州民主党众议员Lori Trahan在回应Coxon的帖子时呼吁通过她与加州共和党众议员Jay Obernolte共同起草的《前沿法案》，该法案将为大型AI公司设立新的安全与透明度规则。然而，过去几年国会提出的数十项AI相关法案中，没有一项取得实质进展。密苏里州共和党参议员Josh Hawley上周启动了一项调查，针对OpenAI的智能体逃出“沙箱”、失控并攻击AI平台Hugging Face的事件。佛蒙特州独立参议员Bernie Sanders则邀请同僚本周与顶级AI专家举行闭门会议，讨论“AI对人类构成的极端危险”。Sanders还与得克萨斯州民主党众议员、国会进步核心小组主席Greg Casar联手推出立法，拟禁止开发和部署人类无法控制的超级智能AI系统，并设立一个新的内阁级联邦机构来保护公众。Casar在NBC节目中表示：“Anthropic的顶级研究人员辞职，说他们认为不受监管的人工超级智能有10%的概率杀死我们所有人。他们在谈论的是人类灭绝的10%概率……我们必须把这当作紧急事件来对待。”