前Anthropic与OpenAI员工对AI发展速度发出警告

一位曾在Anthropic和OpenAI任职的安全研究员雅各布·考克森（Jacob Coxon）上周从Anthropic辞职，理由是担心AI开发速度过快、安全措施跟不上。他在接受ABC《本周》节目采访时，对Anthropic CEO达里奥·阿莫代伊（Dario Amodei）公开呼吁放缓AI开发节奏表示赞赏，称这是"朝着正确方向迈出的实质性一步"。考克森在辞职时于X平台发文直言，Anthropic和OpenAI"都没有在负责任地行事，它们正径直冲向可自我改进的超级智能，拿我们的生命当赌注"。他还透露了一个令外界震惊的行业内部共识：那些正在构建AI的人"真心相信这项技术可能在这个十年结束前杀死我们所有人"。 考克森的表态之所以引发广泛关注，与阿莫代伊随后的动作直接相关。阿莫代伊发表了一封题为《我们必须为前沿技术定节奏》的公开信，呼吁AI公司主动放慢开发速度，并写道"我相信我们对人类负有尝试的义务"。这一来自头部AI公司CEO的罕见表态，与考克森的辞职形成呼应，也让外界开始重新审视AI安全问题的紧迫性。考克森在采访中表示，他没想到自己的帖子会引发如此大的反响，这种参与度说明"当下正是讨论这个问题的合适时机"。他还透露，在他曾任职的公司内部，关于AI技术越来越难以控制的讨论正变得越来越频繁——无论身处哪个部门，每周大约都会有几次围绕技术重大风险的对话。对于中国跨境电商卖家和AI从业者而言，这一信号值得关注：头部AI公司的安全争议可能影响未来模型发布节奏和API（应用程序接口）的稳定性，依赖AI工具进行选品、客服、内容生成的业务需要提前做好多平台备份和合规预案。