AI“紧急关闭”机制或需强制实施，Anthropic联合创始人告诉BBC

全球头部AI公司Anthropic的联合创始人杰克·克拉克近日在接受BBC采访时抛出一个颇具分量的观点：能够被第三方核查的AI“紧急关停开关”，未来可能需要通过立法强制要求企业配备。克拉克是Anthropic七位创始人之一，他表示，当AI系统危险到一定程度时，社会“最终可能希望围绕这件事制定规则”。他承认目前“大多数实验室都有自己的拔插头方式”，Anthropic也不例外，但关键在于，这种能力是否需要由法律来强制、由独立第三方来验证。他进一步追问：“是否应该强制企业必须拥有一个关停开关？这个开关能否被第三方验证？”在他看来，这属于围绕AI展开的“更大政策讨论”的一部分。 这番表态并非孤立事件，而是AI行业内部安全焦虑持续升温的最新注脚。Anthropic成立于2021年，创始团队多来自竞争对手OpenAI，目前正处于AI安全辩论的漩涡中心。上周，一位因担心AI可能灭绝人类而离职的Anthropic研究员所写的帖子在网络上疯传，公司科学家埃文·胡宾格随后公开表示，他个人认为未来十年内AI导致人类灭绝的概率“超过10%”。有“AI教父”之称的诺贝尔奖得主杰弗里·辛顿也向BBC表示，10%的灭绝概率“并非不合理”。这些警告与行业内的质疑声形成鲜明对比：Hugging Face负责人克莱芒·德朗格讽刺说，问AI研究者灭绝风险就像问空调工气候变化；Grindr负责人乔治·阿里森则直言，这些恐惧被公司用来支撑自己的商业计划。 值得中国出海从业者关注的是，这场安全辩论正与资本市场的动作紧密交织。Anthropic目前估值高达9650亿美元（约合人民币7万亿元），正在筹备IPO；OpenAI最新估值8520亿美元（约合人民币6.2万亿元），原本也计划上市，但CEO奥特曼上周表示，由于当前围绕AI安全的争论，今年不会推进。阿里森一针见血地指出，支撑如此高估值的唯一逻辑就是宣称“我要接管所有行业、所有工作”。克拉克本人则对“人类被AI灭绝的概率”这类数字不以为然，认为统计意义有限，但他强调，让AI在“完全不受监管”的状态下继续发展并非明智之举。对于跨境电商和AI工具用户而言，这意味着未来AI产品的合规门槛可能进一步提高，第三方审计、强制关停机制等要求或将成为出海AI企业必须提前布局的课题。