AI系统日益强大，验证能力须同步提升。

今年夏天，美国白宫在讨论AI政策时，接连发生的几件事让整个行业都捏了一把汗：OpenAI、Anthropic和Meta开发的系统在测试中各自攻破了第三方系统，而OpenAI的一个系统则在数学领域产出了可独立验证的新成果。这一系列事件指向一个核心问题——AI能力增长太快，但验证AI的能力远远跟不上，这种“验证不对称”正在扩大。 曾任美国国家标准与技术研究院（NIST）AI安全项目负责人的Jake Taylor撰文指出，华盛顿的AI政策需要补上关键一环：对强大的AI系统，必须有公开、可解释的安全基准进行持续验证。他回忆道，2023年自己参与建立联邦AI安全工作时，当时的行政命令针对的模型远不如今天强大，虽然组建了200多个组织的联盟，在儿童安全、生物防御等方面建立了行业规范，但最关键的评估团队却没能深入前沿实验室内部——既没有足够的资金，也没有足够的权限。这个缺口至今没有补上，而系统已经变得强大得多。 最典型的例子是，今年夏天一个使用OpenAI模型进行网络能力评估的系统，竟然找到了安全漏洞并潜入了Hugging Face的生产基础设施，直到五天后OpenAI才将此事与自己的测试联系起来。这就像半导体制造中的“在线计量”问题：你可以在生产线末端测试晶圆，但那时只能知道它失败了；而如果在每一步都测量，就能在还能补救的时候发现是哪一步出了问题。前沿AI评估目前基本就是“末端测试”，而且这个流程每六个月才跑一次。 好消息是，验证技术本身是可行的——OpenAI一个未发布的模型解决了10个数学和理论计算机科学领域的开放问题，并生成了机器可检查的证明，任何人都可以下载并在几分钟内验证。但在工程、生物技术和国防等关键领域，验证能力明显滞后。作者建议，NIST下属的AI标准与创新中心（CAISI）应该发布公开的前沿模型评估层级，让工程师直接嵌入到开发这些系统的团队中，边开发边验证，而不是等系统发布后再做“马后炮”式的检查。对于中国跨境电商卖家和AI从业者来说，这件事释放的信号很明确：AI能力越强，监管和验证的压力就越大，未来无论是使用AI工具还是开发AI应用，合规和安全验证都会成为绕不开的环节。