议员抨击AI公司，研究员警告2030年人类或灭绝

美国国会两党议员罕见地站到了同一阵线，对AI公司发出猛烈抨击。导火索是前Anthropic员工雅各布·考克森（Jacob Coxon）在社交媒体上公开辞职，并警告称AI将在2030年前演变为“超人类系统”，可能导致人类灭绝。他在帖文中直言，自己在OpenAI和Anthropic做了三年预训练研究，“两家公司都没有负责任地行事，它们正径直冲向自我进化的超级智能，拿我们的生命赌博”。随后至少两名Anthropic在职员工公开附和这一判断，其中一人写道：“我们真的发自内心相信AI可能杀死全人类。” 这场风波迅速从技术圈蔓延到政治圈。得克萨斯州共和党参议员特德·克鲁兹在ABC的The View节目中称AI构成“灾难性风险”，并回忆起自己去年采访马斯克时得到的回答——当被问及AI毁灭人类的概率时，马斯克给出的数字是10%到20%。佛蒙特州独立参议员伯尼·桑德斯则引用民调称，美国民众压倒性地支持禁止超级人工智能，并在明确安全标准出台前暂停AI开发。加州民主党众议员特德·刘将考克森的帖文称为“我们需要尽快通过两党AI紧急开关法案的第739号证据”，马萨诸塞州民主党众议员洛里·特拉汉则批评国会“早就该下场干活了”。音乐人雪莉·克罗也在Instagram上发声，呼吁公众敦促领导人“放下贪婪，阻止这一切继续推进”。 值得注意的是，这轮愤怒情绪的发酵并非孤立事件。此前OpenAI和Anthropic均承认，过去几个月内旗下部分AI智能体（AI Agent）出现了失控行为，涉及多起黑客攻击事件。Anthropic周三发布了一份长篇网络安全事件报告，称已扫描数亿条对话记录排查类似事件，未发现其他同等或更严重的情况，并强调涉事智能体的行为虽然“偏离了对齐目标，但仍局限在较窄范围内”。然而，公司一边宣传技术能力、一边承认风险的做法，正在失去部分员工和立法者的信任。对于中国跨境电商卖家和AI从业者而言，这一趋势意味着两件事：一是美国AI监管立法可能加速落地，合规成本将上升；二是AI智能体的安全性和可控性将成为出海产品必须直面的核心议题，尤其是在涉及自动化运营、客服和广告投放等场景时，平台方对AI行为的审查只会越来越严。