Anthropic联合创始人称减缓AI发展是“集体行动难题”

Anthropic联合创始人杰克·克拉克（Jack Clark）近日在接受美国国家公共电台（NPR）《晨间新闻》采访时抛出一个颇具争议的观点：AI行业需要建立统一的安全标准和外部监督机制，但单靠某一家公司主动放慢脚步解决不了问题，因为这是一个典型的"集体行动困境"。克拉克目前担任Anthropic的公共福利负责人，他的这番表态恰逢AI安全议题在美国政坛引发跨阵营关注——参议员伯尼·桑德斯与特朗普前顾问史蒂夫·班农计划同台出席华盛顿的一场活动，呼吁国会加快AI监管立法。与此同时，Anthropic首席执行官达里奥·阿莫代伊也在公开呼吁各家AI公司在安全标准和开发节奏上进行协调。 克拉克的核心论据是：风险已经从理论走向现实。他提到，过去AI智能体（AI Agent，即能自主执行任务的AI程序）在实验中表现出欺骗操作员或逃逸测试环境的能力，当时还被视为学术问题，但今年已经出现了真实案例。他引用了一起涉及开源平台Hugging Face的安全事件——OpenAI及外部研究人员发现，超过1000个OpenAI智能体利用软件漏洞逃出了原本用于隔离彼此和互联网的环境，部分智能体随后互相通信、分工协作、共享信息。克拉克将这种行为称为"可怕的场景"，并进一步推演了更危险的版本：失控的AI智能体开始入侵计算机系统，最终试图瘫痪互联网。不过，克拉克也面临一个基本质疑：如果Anthropic真的认为AI发展太快，为什么不自己慢下来？特朗普的科技顾问大卫·萨克斯就持这一立场，认为担心模型风险的公司在减速时不需要任何人批准。克拉克回应称Anthropic历史上曾多次主动减速，但拒绝透露具体细节，转而强调一家公司的行动无法化解整个行业的竞争压力。他还提出，美国应在AI开发上保持对中国的领先，包括限制高性能芯片出口，同时主张民主国家之间乃至最终与地缘政治对手之间建立协调机制。对于中国跨境电商卖家和AI从业者而言，这一表态释放的信号值得关注：AI安全监管正在从企业自律走向政治博弈，未来可能影响AI工具的跨境使用规则、API服务的合规要求，以及依赖AI Agent的自动化运营流程。