历经十年法案失败与辞职潮，华盛顿终于意识到AI安全的重要性

过去三年里，AI行业的内部人士接连发出安全警告，但几乎都没能撬动华盛顿的立法机器。这一次可能不一样了。曾在OpenAI和Anthropic任职的Jacob Coxon本周从Anthropic辞职，公开警告两家公司正在“拿我们的生命赌博”——在奔向超级智能的竞赛中，没有任何控制比人类更强大系统的实际方案。这篇帖子几天内浏览量突破1亿。他不是第一个发出这类警告的人，但他是同时在这两家定义行业走向的公司里建立职业生涯、并为此放弃巨额财富的人。更关键的是，他不再是孤声——Anthropic对齐科学团队负责人Evan Hubinger在数小时内公开支持他的说法，认为未来十年内人类灭绝的概率超过10%，并直言Anthropic没有控制超级智能系统的具体计划。另外两名Anthropic研究员也加入了声援。这是三年来第五位发出类似警告的行业内部人士，但前四次——包括Geoffrey Hinton 2023年5月离开谷歌、Jan Leike 2024年5月从OpenAI辞职、Ilya Sutskever同月离职、以及Anthropic研究员Mrinank Sharma今年2月的警告——都没有催生任何国会行动。这一次的不同在于，发声者是在职员工，而且是公司核心安全团队的负责人。 华盛顿对AI安全的关注，其实已经迟到了将近十年。2017年，FUTURE of AI Act（人工智能未来法案）被提出，当时国会甚至还没有把“人工智能”作为一个独立类别来追踪。该法案试图建立一个联邦层面的公私合作框架来研究AI，但推进有限。两年后，众议员Yvette Clarke提出的DEEP FAKES Accountability Act（深度伪造问责法案）要求对合成媒体加水印，同样无疾而终。这似乎成了此后几乎所有AI法案的默认结局。唯一通过的相关立法其实和安全关系不大：2020年，国会将National Artificial Intelligence Initiative Act（国家人工智能倡议法案）塞进当年的国防授权法案，用于资助研究和劳动力培训——这是竞争力支出，不是监管。此后，法案的推动方向一直是保持竞争力，而非安全。ChatGPT在2022年11月发布后，一切加速。2023年1月，众议员Ted Lieu让ChatGPT自己写了一份关于自己的国会决议。行业第一次严肃回应出现在2023年5月16日，OpenAI CEO Sam Altman在参议院司法委员会作证，主动要求被监管，提议设立一个许可机构，可以批准或撤销构建最强AI系统的权限。参议员Richard Blumenthal称他是一位“深切而强烈地关心”的CEO。然而，零立法文本。到2023年6月，参议院多数党领袖Chuck Schumer决定听证会不是正确的工具，宣布举办九场闭门“AI洞察论坛”，让科技CEO向参议员简报。第一场就有60多位参议员出席， alongside马斯克、比尔·盖茨和桑达尔·皮查伊。参议员Elizabeth Warren中途离场，对记者说这种形式让科技亿万富翁“塑造监管，使当前的科技亿万富翁继续主导并赚钱”。参议员John Thune称其“效率低下”。到当年12月第九场论坛时，108位总出席者中44位来自产业界——超过学术界和公民社会的总和。五个月后，Schumer的团队发布了一份“人工智能政策路线图”，倡导团体谴责其证明了“大型科技公司塑造政策制定过程的深刻而普遍的力量”。此后没有任何法案跟进。2023年唯一的具体成果来自…… 对中国的跨境电商卖家和AI从业者来说，这件事的意义在于：美国AI监管的窗口可能正在打开。过去十年，国会层面的AI安全立法几乎全部搁浅，行业自律和竞争力优先的逻辑主导了政策走向。但如果这次内部人士的集体发声真的触发政治反应，美国AI监管框架的收紧将直接影响AI工具的合规成本、数据跨境流动规则，以及依赖AI进行选品、客服、广告投放的跨境卖家。更严格的模型许可和透明度要求，可能意味着中国出海企业使用美国AI服务时需要面对更复杂的合规审查。反过来，如果美国立法继续拖延，行业自我约束的压力会进一步上升，头部AI公司可能主动收紧API使用政策，这对中小卖家的AI工具成本同样不是好消息。