开源模型确有实际益处，但其风险是否更大？

上个月底，Anthropic发布了一份报告，直指中国公司智谱AI（Z.ai）8月发布的GLM-5.3模型构成重大网络安全风险。Anthropic的核心担忧在于：这个强大的新模型任何人都可以自由下载和修改。这一表态只是围绕前沿AI模型应否开源这一长期争论的最新一幕。如今，这场辩论已经从学术圈蔓延到了商业战场，背后牵涉的利益巨大。英伟达CEO黄仁勋热情倡导美国发展更多开源模型，因为用户自行购买硬件运行开源模型对英伟达有利；而Anthropic的达里奥·阿莫代伊则主张更谨慎的路线，毕竟廉价而强大的开源模型可能动摇他公司的商业根基。 但抛开商业动机，开源模型之争确实有实质性的分歧。德克萨斯大学奥斯汀分校信息学院助理教授David Gray Widder指出，一个人对开源问题的立场，很大程度上取决于他对AI本身的立场。关注AI安全的人警告说，开源模型容易被恶意行为者滥用；而更看重AI实际潜力的人则认为，这种能力不应被锁在少数大公司的门后，开源模型有助于让更多人受益。在全面禁止和随意发布之间，存在一系列中间方案，但无论政府或社会采取哪种路径，都绕不开安全与民主化之间的权衡。要决定支持还是限制开源模型的生产，就需要深入理解其中的风险与收益。 先厘清基本概念。闭源模型（如驱动ChatGPT和Claude的模型）只能通过网站、App或API访问。开源模型则可以直接下载，其内部结构以一系列被称为“模型权重”的数字形式公开。这类模型有时也被称为“开放权重模型”，以区别于那些连训练过程细节都公开的模型。目前闭源模型的能力仍强于开源模型——截至发稿时，Artificial Analysis大模型排行榜前八名全部为闭源，但开源模型在开发进度上只落后几个月。尽管如此，选择开源模型的理由不少。由于可以下载，用户能在自己的电脑或硬盘上运行，甚至有技术和资源的话还能重新训练模型以改变其行为。对于从事AI系统研究和改进的学术人员来说，几乎必须使用开源模型——闭源模型只能发送提示并观察回复，而开源模型允许研究者观察内部运作机制以及模型在回答前用于思考问题的“思维链”，还能将多个开源模型组合成新系统、压缩以提高效率、针对新应用进行微调。企业同样有理由偏好开源模型。根据Mozilla最近的一份报告，即使依赖外部供应商运行，开源模型的成本通常也低于闭源模型。