Anthropic正研发AI模型身份验证系统

Anthropic正在开发一套名为FlashProve的开源验证系统，用来证明某段AI输出究竟出自哪个模型。按照Anthropic研究团队周二发布的博客文章，这套系统提供的是所谓“可验证推理”：通过密码学手段给出数学层面的保证，让用户确认自己拿到的回答确实来自声称的那个模型。它的思路类似电子邮件的密码学签名——收件人能据此确认发件人身份，FlashProve则让用户能识别出“冒名顶替”的模型，即便冒充者是开发和运营该模型的实验室本身也不例外。 这套系统要解决的现实问题相当具体。研究团队指出，FlashProve可以防止AI公司偷偷换成更便宜的模型来压缩成本，或者换成更贵的模型来美化性能测试结果；它也能用来核实第三方的说法，比如某开发者宣称自己的软件库已被前沿网络安全模型扫描过漏洞，或某公司声称其商业计划获得了某个模型的认可——这些说法此前都难以验证。系统运行的前提是AI实验室为每个发布的模型公开一份“指纹”，之后可将指纹与具体输出匹配并进行密码学验证。关键在于，指纹不会暴露模型权重，也就是决定模型行为的内部数值，这类核心资产Anthropic和OpenAI等闭源厂商一向严格保密。这意味着实验室可以在不交出最值钱家底的情况下发布指纹，商业模型同样适用。系统还被设计得足够轻量，验证可以在本地设备上完成。 目前Anthropic已随公告在GitHub上以开源协议发布了详细的技术规范和系统各部分的可运行代码，但研究仍在进行中，公司没有在自身或其他实验室部署该系统的计划。研究团队在公告中坦言，这次发布意在分享阶段性进展而非完整的研究议程，“我们公开分享，明确是希望其他人来看我们做了什么，拿去用，并把它改得更好”。对跨境电商卖家和AI工具用户而言，这套机制若未来落地，意味着调用AI服务时多了一层可核验的信任基础——至少能确认自己付费使用的是不是宣称的那个模型。