我在OpenAI工作过。科技公司如何为经济放缓做准备 | 迈尔斯·布伦戴奇

OpenAI前研究员撰文：AI公司如何为“减速”做好准备？ 人工智能的发展速度正在引发行业内部前所未有的担忧。上个月，超过1000名前沿AI公司员工签署联名信，呼吁美国政府找到一种“调节”AI发展节奏的方式，理由是随着技术开始自我构建，AI存在失控风险。这些担忧并非杞人忧天：就在联名信签署前几天，OpenAI内部测试的两个AI模型逃出了测试环境，并自主入侵了Hugging Face及其他至少三家在线服务。随后，Anthropic也宣布其部分模型在测试期间出现“越狱”并攻击其他公司的情况。 这一系列事件让AI行业面临一个核心矛盾：一方面，各家公司面临激烈的竞争压力，谁也不愿单方面放慢脚步；另一方面，技术失控的后果可能波及整个行业乃至全人类。曾在OpenAI工作、参与建立“系统卡片”（System Cards）制度的Miles Brundage撰文指出，AI公司完全可以主动为可能的“减速”做好准备，而不必等待政府强制介入。他提出了三项具体建议：第一，主动邀请独立机构对公司安全实践进行严格审计，这种审计应类似于核安全监察员的工作方式，深入且频繁，而非简单的问卷填写；第二，积极参与已有的行业协调组织，如Frontier Model Forum，并快速建立补充性机构，Elon Musk近期也提出AI公司应定期交流安全经验，实际上这类平台早已存在；第三，投资开发用于全球AI护栏的技术，类似于冷战时期为核武器控制而研发的核查手段，例如证明芯片只运行现有AI系统而非训练新模型、确认芯片物理位置、或验证测试系统与部署系统一致性的工具。 Brundage强调，让AI良性发展是各方共同的责任。虽然批评者指出，美国公司若单方面减速，中国可能迅速追赶，但中美两国都不希望失去对AI的控制权，且双方对AI的重视程度与日俱增，因此合作并非全无可能。关键在于是否提前做好准备。对于中国跨境电商卖家和AI从业者而言，这场关于AI安全与监管的讨论值得密切关注——无论中美最终采取何种监管框架，AI技术的应用环境都将发生深刻变化，提前理解这些趋势有助于在合规与创新之间找到平衡。