我们对AI智能的思考正确吗？

当一个大语言模型（LLM）回答问题时，它是在像人类一样推理，还是仅仅在生成看起来像推理的文本？这个区别不仅仅是哲学层面的，它决定了我们能放心让AI做什么、需要多密切地监督它，以及最终它会对现实世界产生什么影响。圣塔菲研究所的计算机科学家梅兰妮·米切尔（Melanie Mitchell）认为，我们目前缺乏足够的方法来衡量机器认知，AI本质上是一种通过非人类认知机制运作的“外星智能”。 在Quanta Magazine播客《The Joy of Why》的最新一期节目中，米切尔与主持人史蒂夫·斯特罗加茨（Steve Strogatz）深入探讨了这一话题。她提出，心理学家研究其他“外星智能”——比如婴儿和动物——认知的方法，完全可以借鉴来探测AI的“内心世界”。她为此列出了六条评估机器认知的改进原则。这场对话的覆盖面很广：从解读AI系统内部运作的挑战，到近期AI辅助数学研究的突破，再到20世纪初那匹会做数学题的“聪明马”如何为今天的AI评估敲响警钟。 米切尔的核心观点是，我们太容易把AI的输出拟人化了。当一个模型流畅地解出数学题或写出逻辑严密的文章时，我们本能地认为它“理解”了。但米切尔强调，这种流畅性恰恰是问题所在——它掩盖了AI与人类认知之间的根本差异。她认为，AI的“推理”更像是一种统计模式匹配，而非人类意义上的因果逻辑推导。这种差异带来的实际风险在于：如果我们误判了AI的能力边界，就可能在医疗、金融、法律等高风险领域过度信任它，而忽略了必要的监督。 米切尔提出的六条评估原则中，最引人注目的一条是“不要用人类的基准去衡量非人类的智能”。她以婴儿和动物研究为例：心理学家不会问一只乌鸦“你会不会解方程”，而是设计适合其认知结构的实验来探测它的能力。同样，对于AI，我们也需要开发专门针对机器认知特性的测试方法，而不是简单套用人类的智力测试或考试题。她还特别提到了一个历史教训：20世纪初那匹名叫“聪明的汉斯”的马，看似会做算术，实际上是在读取驯马师无意识的肢体语言。米切尔警告说，今天的AI评估中可能也存在类似的“汉斯效应”——我们以为模型在推理，实际上它只是捕捉到了训练数据中的某些线索。 这场对话还触及了一个更深的焦虑：我们连人类心智的运作机制都尚未完全理解，又如何能准确判断AI是否“真正”在思考？米切尔对此的态度是务实的——与其纠结于哲学定义，不如建立更严谨的评估框架，确保AI在现实世界中的部署是安全可控的。对于中国的AI从业者和跨境电商卖家来说，这个视角尤其值得警惕：当AI客服、AI选品工具、AI广告优化器越来越深入地介入商业决策时，我们是否真的清楚这些系统在“想”什么？还是说，我们只是在被它们的流畅输出所迷惑？