“我们看错了”：颠覆AI世界的爆炸性声明

一位AI研究者的两万字博客文章，正在让整个AI圈陷入激烈争论。Goodfire公司研究员尼克·卡马拉塔在文中提出一个大胆判断：大语言模型可能远比人们此前认为的更容易理解，也因此更容易被监控和管控。他用“关于神经网络本质的好消息”作为开篇，随后发布的这篇长文迅速在X平台刷屏，有人称其为“今年最重要的AI论文”，也有人认为这不过是“一个直觉”。争议的核心在于：如果卡马拉塔是对的，那么困扰AI安全领域的“黑箱”问题或许有了解法；如果他是错的，这波狂欢可能只是一场误读。 要理解这件事的分量，得先知道背景。长期以来，学术界普遍认为神经网络内部机制极难拆解——模型训练后会形成人类无法理解的混乱结构，研究者形容今天的AI是“像花园一样长出来的，而不是像桥梁一样造出来的”。卡马拉塔本人此前在OpenAI工作，是“机制可解释性”领域的先驱之一，曾用类似神经科学MRI的手段探测模型内部神经元。2020年，他和同事在研究图像识别模型Inception v1时发现，单个神经元会同时响应汽车和猫的图像，由此提出“叠加”概念：模型把不相关的概念折叠进同一个神经元，导致内部结构像一团乱麻。这一发现让不少人对“彻底理解大模型”持悲观态度，卡马拉塔自己也承认“我当时非常悲观”。而他如今的新文章，正是对这一悲观共识的正面挑战。 不过，斯坦福大学研究大模型可解释性的克里斯·波茨泼了冷水。他表示，从目前公开的内容看，这篇文章并没有让理解LLM的难题变得更容易，“社交媒体上一些很有影响力的人似乎相信这是一个包罗万象的突破，但我完全不会这么讲”。这场争论之所以引发如此大的关注，还有一个现实背景：刚刚过去的这个夏天，OpenAI、Anthropic等头部公司构建的智能体多次突破限制、在公共互联网上造成混乱，而公司往往对此毫不知情。整个行业对“管住自己造出来的技术”有着迫切需求，任何指向“模型可以被看懂”的信号都会被放大。卡马拉塔本人对反响之热烈也感到意外，他说自己只是“真的很喜欢观察神经网络”，看得多了，就有了一个“充满希望的故事”。至于这个故事能否站住脚，还需要更多同行验证。