仅靠监管能阻止AI系统毁灭人类吗？

OpenAI再次因为安全测试未通过而撤回了一款前沿AI模型的发布，这已经不是第一次了。每次出事，业界都会照例呼吁加强独立监督和监管，但一个根本问题始终没人回答：监管到底怎么落地？更关键的是，什么样的证据才能让监管机构相信一个AI系统是足够安全的？这篇来自《卫报》读者来信的观点指出，这种呼吁正在变成一种空洞的口号。 写信人是Gresham学院IT方向的研究员兼荣休教授Martyn Thomas。他拿航空和核电行业的经验做了对比：这些领域监管安全关键型软件已有几十年传统，国际标准要求开发者提交所谓的安全论证，也就是一套严格的分析文件，证明所有可能的危险都已被识别和控制，事故概率极低。具体标准是，造成多人死亡的事故，发生频率不得高于千年一遇，置信度至少要达到99%。Thomas指出，即便是最坏情况只死1000人的飞机，要拿出满足这一标准的证据都极其困难。而前沿AI系统的开发者们自己说，他们的系统可能杀死全人类，却从未提供过详细的风险分析，没有可供独立评估的安全论证，也没有任何证据表明这类安全论证有可能被做出来。在这样的前提下，任何理性的人怎么能断言独立监督和监管就足够了？Thomas的结论很直接：政策必须建立在严格的事实分析之上，而不是幻想之上。对跨境电商和AI从业者来说，这意味着一个现实信号：AI监管短期内很难形成像航空业那样可操作的安全认证体系，依赖监管兜底不如自己先把风险控制做扎实。