纽森成立AI安全监管小组，建议设置“紧急关闭”开关

加州州长加文·纽森本周五签署行政令，宣布成立一个专门小组，为加州的人工智能企业制定安全监管规则，其中一项引人注目的内容是研究为AI程序设置“终止开关”（kill switch）的可行性——一旦系统失控，可以强制将其关闭。这一表态之所以引发关注，是因为纽森两年前曾否决过一项要求AI企业必须配备此类开关的法案，如今立场出现明显转向。 推动这轮监管加速的，是AI业界内部不断传出的警告声。近期多家AI公司的员工公开表示，这项技术可能带来灾难性后果，甚至危及人类存续。就在纽森签署行政令的前一天，宾夕法尼亚州州长乔什·夏皮罗也提出了类似呼吁，主张引入第三方监督和更高的透明度。联邦层面，众议员刘云平（Ted Lieu）和纳撒尼尔·莫兰（Nathaniel Moran）今年7月已提出法案，要求开发者必须具备关停强大AI系统的能力，并赋予联邦官员在系统可能造成危害时进行干预的权力。不过，围绕AI风险的分歧依然巨大：特朗普将“AI灭世”警告斥为骗局，更担心美国在中美技术竞争中落后；英伟达CEO黄仁勋等高管也公开表示不需要新监管，主张行业自律。而Anthropic研究员雅各布·考克森则因担忧同行“拿我们的命在赌”而选择离职。对跨境电商和AI从业者而言，加州作为全球AI产业重镇，其监管风向往往具有示范效应，一旦“终止开关”等要求落地，可能影响AI工具的开发节奏、合规成本乃至产品出海路径，值得持续关注。