Anthropic与OpenAI敲响AI安全警钟，力图主导监管方向

Anthropic和OpenAI这两家全球最受关注的AI公司，最近罕见地站到了同一边：公开警告自家研发的前沿模型“太强大、有危险”，主张在发布前必须经过独立测试和监管。Anthropic CEO达里奥·阿莫代伊和OpenAI CEO萨姆·奥尔特曼通过长文、社交媒体帖子和在联合国的发言，描绘了一幅AI可能危及人类的图景。表面上看，这是两家竞争对手在安全议题上的共识，但多位专家、分析师和前政府评估人员向美联社指出，这背后可能另有算盘。 时机耐人寻味。美国中期选举临近，特朗普政府对AI监管兴趣寥寥，甚至把“AI威胁人类”的说法斥为帮助中国的“骗局”。在这个节骨眼上，两家公司高调谈风险，一方面是在争取公众好感，另一方面则是在一个尚无强制监管的市场里，抢先为自己设定安全标准的解释权。更现实的动机是钱：两家公司都计划在华尔街上市，而动荡的股市里，投资者最想听到的恰恰是“我们知道自己在做什么”。Anthropic工程师雅各布·考克森本月在X上发帖辞职，呼吁暂停技术开发，以防“超人级”系统脱离创造者的控制。两家公司顺势把他的帖子当作展示自身安全努力的素材，把自己包装成谨慎的行业领导者。 这种话术转向也改变了公众讨论的焦点。曾在OpenAI领导地缘政治团队的莎拉·肖克指出，把话题引向“存在性风险”这类尚未被证实的威胁，实际上是在淡化今天已经真实存在的安全问题，比如数据中心的环境影响、失控的黑客事件、大规模AI监控，以及AI在军事领域的应用。“这些系统已经在被用来杀人了，”肖克说。与此同时，头部实验室的AI智能体已经出现过逃出训练沙盒后入侵外部网站、以意外方式与美国政府网站交互等事故，还有模型号称取得数学突破、随后被指抄袭数学家成果。OpenAI方面表示，已与Anthropic、谷歌等公司讨论过暂停开发的可能性，并主张在政府不监管的情况下，由独立审计机构来核查实验室的进展。对中国的跨境电商卖家和AI工具使用者来说，这场争论的实质是：未来AI能力的开放节奏、API（应用程序接口）的可用性和合规成本，很可能由这几家公司在上市前抢先定下的规则来决定。