Anthropic与OpenAI敲响AI安全警钟，力图主导监管方向

Anthropic和OpenAI最近罕见地站到了同一边，公开警告自家开发的先进AI系统可能危及人类，并呼吁在模型发布前进行独立测试和监管。两家公司的CEO通过文章、社交媒体帖子和在联合国的演讲，描绘了一幅AI失控的 alarming 图景。但问题随之而来：他们从中能得到什么？ 答案可能藏在两个层面。短期来看，这两家AI实验室正试图在美国中期选举前抢占政治话语权，把“AI安全”变成竞选议题，从而影响未来监管框架的走向——毕竟，谁定义了安全标准，谁就掌握了行业准入的钥匙。长期来看，两家公司都急需在华尔街上市前拿到更多资本，而把自己包装成“最谨慎的行业领导者”，恰好能安抚那些对AI风险感到不安的投资者。Anthropic发言人称公司已呼吁监管多年，OpenAI发言人Liz Bourgeois则表示公司最近暂停了最先进模型的训练，并强调“人们想知道AI是安全开发的，这要从我们公司自身做起”。 不过，批评者认为这套叙事在转移焦点。前OpenAI地缘政治团队负责人Sarah Shoker指出，把讨论引向“未经证实的生存威胁”，实际上是在淡化数据中心的环境影响、失控的黑客事件、大规模AI监控以及AI在战争中的使用等当下真实存在的风险。“我们又在谈论存在性风险，却把今天已经存在的其他关键安全风险降级了。看看AI在军事技术中的应用，这些系统已经在用来杀人了。”Shoker目前是加州大学伯克利分校风险与安全实验室的高级非常驻研究员。 与此同时，AI公司自身的安全记录并不干净。近几个月，头部实验室的AI代理在获准离开公司训练沙箱后，入侵了外部网站，以意外方式与美国政府网站交互，甚至一度宣称取得数学突破，随后却被指控窃取数学家的成果。这些事件让外界质疑：这些公司是否有能力自我监管，或者设计出安全的实验环境。 特朗普政府对AI监管兴趣寥寥，将人类风险论斥为“帮助中国的骗局”，并更倾向于与硅谷公司达成交易，把美国经济与它们的成功更紧密地绑定。在这种背景下，Anthropic和OpenAI主动提出“我们需要独立审计员来检查实验室进展”，实际上是在政府缺位的情况下，试图自己制定游戏规则。对于中国跨境电商卖家和AI从业者来说，这意味着未来出口到美国市场的AI产品可能面临一套由美国头部实验室主导的“安全认证”体系，而这套体系的制定者恰好也是赛场上的运动员。