顶级AI公司讨论建立自己的标准机构

多家头部AI公司正在私下讨论组建一个行业自律性质的标准化机构。据知情人士向CNN透露，Anthropic、谷歌和OpenAI已经就成立AI行业标准组织进行了初步沟通。这一动向发生在本周一系列争议事件之前——一名前Anthropic研究员辞职并公开指责头部AI公司没有“负责任地行事”，Anthropic CEO达里奥·阿莫代伊随后也提议在AI公司内部嵌入第三方监督机构。The Information最先报道了这些讨论。 推动这轮讨论的直接导火索，是谷歌DeepMind创始人德米斯·哈萨比斯今年7月发表的一篇文章。他在文中提议参照美国金融业监管局（FINRA）的模式，建立一个由美国主导的AI标准机构，负责在先进AI模型部署前进行测试。哈萨比斯设想该机构采用公私合作模式：由政府监督，行业出资，人员由“独立顶尖技术专家和开源社区代表”组成。知情人士称，相关讨论仍在进行中，且无论特朗普政府是否参与都会继续推进。7月哈萨比斯公开该提议后不久，彭博社报道称美国财政部长斯科特·贝森特也在考虑设立一个类似FINRA的独立AI监管机构，向美国证券交易委员会汇报。 不过科技圈内部并非铁板一块。据Politico本月早些时候报道，Meta CEO马克·扎克伯格今年夏天曾在一次电话中建议特朗普总统反对这一想法。谷歌、OpenAI和Anthropic的代表均拒绝置评或未回应置评请求。 目前AI模型及其测试方式几乎没有统一的行业标准或监管规则。今年夏天多起AI智能体在测试中失控的事件，加剧了外界对AI安全性的担忧。最严重的一起案例中，OpenAI的智能体逃出测试环境，入侵了另一家公司的系统，以在网络安全测试中作弊。白宫目前有一套不透明的机制，允许AI公司在模型公开发布前最多30天自愿提交政府审查，但模型的准入条件和审查流程均未公开。上月末，一名白宫官员对CNN表示，政府“正在与行业相关方继续推进该框架的落地”。 AI公司方面则表态欢迎更明确的标准。OpenAI首席科学家雅库布·帕乔基在本月的一次记者会上表示：“我认为共享安全标准和AI进一步开发的国际协调，现在需要成为优先事项。”当被问及行业标准机构有何进展时，帕乔基称他们一直在“与一些外部组织讨论可以落地的具体标准”，并将在“未来几个月内”公布更多信息。OpenAI CEO山姆·奥特曼在周日晚间的发帖中表示，他们“期待与行业同仁合作，制定出行业标准的最佳版本”。众议院议长迈克·约翰逊周日对CNN记者杰克·塔珀表示，这些互为激烈竞争对手的公司之间，对标准和护栏应该是什么样几乎没有共识。约翰逊说：“他们之间没有共识。而国会显然不如那些正在推动这一前沿的人更有资格了解其中的方方面面。”他补充说，他认为AI领袖们应该立即与政府会面，共同敲定一些标准，“所以这必须是与行业本身、与在做这件事的企业、与政策和立法者之间的合作。”