AI安全担忧加剧，三位先驱力主保持开放

上周在拉斯维加斯举行的 Ai4 大会上，一场关于AI开源与安全的讨论引起了广泛关注。三位全球顶尖AI研究者——诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）、World Labs CEO李飞飞（Fei-Fei Li）以及Coursera联合创始人吴恩达（Andrew Ng）——罕见地同台发声，就AI模型的开放性问题展开了深入探讨。尽管三人在具体策略上存在分歧，但他们都认为，AI技术不应被少数几家巨头公司垄断控制。 这场讨论的背景是，随着"Pacing the Frontier"等项目试图通过约束大型实验室来确保AI研究安全，开源模型已成为行业内的敏感话题。由于开源权重模型可以自由分发且难以控制使用方式，一些实验室将其视为潜在威胁。但三位研究者认为，核心问题在于：如果只有少数几家大公司掌控AI技术的准入权，就像苹果和谷歌主导移动操作系统那样，创新速度将放缓，平台控制者还能左右整个生态的发展方向。吴恩达对此直言不讳："我不希望出现守门人，那会限制所有人接触AI的机会。"他主张通过多元化的模型提供商和市场竞争来避免寡头垄断，并强调"AI是惊人的技术，我希望它能掌握在每个人手中"。 然而，辛顿对开源权重模型持不同看法。他明确区分了开源软件（开放源代码供人检查和修改）与开源权重（公开训练好的模型参数）的本质差异。辛顿指出："开源很棒，人们可以看到代码并发现bug。但开源权重意味着你训练了一个大模型后把权重交给所有人，这完全不同。"他担心有人会利用这些昂贵的基座模型，以较低成本将其微调用于网络攻击等恶意用途。不过，辛顿也承认这场争论实际上已经结束："我认为这场战斗已经输了。我们现在已经有了开源权重模型，训练基座模型的成本壁垒已经消失，为时已晚。" 尽管存在风险担忧，辛顿仍然认为AI的进步总体上是好事，能提升生产力、改善教育和医疗。他强调："担心AI可能带来的负面影响，以及比我们更聪明的智能体可能做的事情，这并非不公平。把有这种想法的人贴上'恐吓者'标签才是不公平的。"而吴恩达则从地缘政治角度提出了另一个层面的担忧：如果中国的开源权重模型在亚洲、非洲和发展中国家获得广泛采用，可能会影响数十亿人对民主、自由和人权等概念的理解。他呼吁："我希望我们能鼓励美国的竞争力和开源AI发展。AI是巨大的软实力来源，你可以看到中国模型在非洲取得的巨大成就。"这场讨论揭示了一个核心矛盾：如何在保持AI创新活力的同时，防范其潜在风险，以及如何在全球AI竞争中保持技术领先和价值观影响力。