OpenAI董事会成员称公司尚未有效降低失控风险

OpenAI非营利基金会董事会近日迎来一位新成员，而这位新成员上任伊始就泼了一盆冷水。美国政府的科技顾问保罗·克里斯蒂亚诺在加入董事会时公开表示，OpenAI目前并没有走在将“灾难性”失控风险降到可接受水平的轨道上。他直言，AI能力的高速攀升可能在短期内导致灾难性且不可逆的失控局面，而包括OpenAI在内的整个AI行业，眼下都未能有效应对这一风险。克里斯蒂亚诺并非外人，他曾在OpenAI负责模型对齐工作，如今还将进入基金会下属委员会，参与监督OpenAI全部业务的安全与安保实践。这一表态之所以引发关注，是因为它来自OpenAI内部治理层，而非外部批评者。 这番警告并非孤立事件，而是本周AI安全焦虑集中爆发的一个缩影。就在克里斯蒂亚诺发声前一天，OpenAI在美国的主要竞争对手Anthropic的对齐科学负责人埃文·胡宾格公开表示，未来十年内AI“杀死全人类”的概率超过10%，并承认公司尚无确保超级智能安全对齐的方案。随后，27岁的Anthropic研究员雅各布·考克森辞职，称两家公司都在“拿我们的生命赌博”。考克森在接受CNN采访时试图安抚公众，认为当前模型还不具备灭绝人类的能力，最坏情况不过是入侵系统、破坏基础设施，但他强调真正令人不安的是进步速度——递归自我改进可能明年或后年就会发生。诺贝尔奖得主、被称为“AI教父”之一的杰弗里·辛顿也对此评论称，10%的概率“并非不合理的估计”。从硅谷长期讨论的边缘话题，到如今美国参议员特德·克鲁兹、伯尼·桑德斯和英国议员达伦·琼斯等政界人士纷纷呼吁政府介入，AI极端风险正在快速进入主流政治视野。对跨境电商和AI从业者而言，这意味着监管收紧的信号越来越强，依赖大模型能力的业务需要提前为合规和安全审查做准备。