别被今夏的人工智能热潮所迷惑

过去几个月，AI圈的热闹几乎没停过。4月底，Anthropic声称其模型Claude Mythos在发现软件漏洞方面比大多数安全专家都强；随后爆出OpenAI与Hugging Face遭黑客入侵的事件，Anthropic高调、Meta不情愿地承认自家模型也有类似问题；紧接着Anthropic宣称旗下一个模型取得了数学突破，OpenAI很快也说自己有份。最近，Anthropic工程师Jacob Coxon的离职宣言刷屏，他说Anthropic和OpenAI正"径直冲向自我改进的超级智能，拿我们的命在赌"。这些事件被媒体密集报道，大多照搬了公司拟人化的说法——把软件描绘成不仅强大、而且已初具"通用人工智能"雏形的东西。 但等相关领域的专家有时间细看，故事往往完全变样，只是这类后续报道少得多。网络安全专家指出，所谓"黑客事件"的核心其实是OpenAI疏于管理、没采用基本的安全规范，而不是"模型失控"或"AI智能体建立文明"。数学方面，起初被OpenAI新闻稿"震惊"的数学家们后来发现，那些成果并没有"初见时那么新颖"，随后更有人指控该公司存在研究不端和抄袭，并强调Astra并没有实现"深刻的知识飞跃"。纽约大学库朗数学科学研究所教授Tristan Buckmaster在OpenAI宣称数学突破前两天发布声明，直指OpenAI窃取他人成果、归属不当。 这些关于"初生危险超级智能"的说法，并不建立在扎实的科学或工程实践上，而是源于超人类主义、优生学以及对想象中未来数字人的一厢情愿。值得追问的是，为什么编程和数学被反复选为大语言模型及相关技术的展示场？一方面，这两个领域常被视为人类智力的巅峰；另一方面，它们的问题一旦给出答案就能被验证。前者方便炒作方兜售"造万物机器"的叙事，后者则让系统更容易调优——输出（词序列或代码片段）可以自动评估，不必花钱请数据标注员逐条查看。数学家们尤其警告企业不要这样利用他们的领域。数百人签署的声明指出，"科技行业目前存在强烈的商业动机去夸大产品能力"，并呼吁政策制定者"在决策时咨询包括数学家在内的专家，而不是依赖新闻稿或对数学成果的通俗报道"。我们认同这一呼吁，并要指出：科技公司渲染的速度感和紧迫感，同样是一种把政策制定者和公众带偏的手段。遗憾的是，它有时确实奏效。