人工智能真会毁灭人类吗？炒作背后的科学

AI会不会真的毁灭人类？这场恐慌背后的科学逻辑 过去几周，关于人工智能可能毁灭人类的讨论在全球范围内急剧升温。事情的导火索发生在9月8日，Anthropic公司研究员雅各布·考克森向《华尔街日报》表示，他因担心公司正在开发的AI系统可能失控并毁灭人类而选择辞职。随后，他在社交媒体平台X上发布了人生第一条帖子，写道：“构建AI的人真心相信，它可能在这个十年结束前杀死我们所有人。”几小时后，Anthropic负责“对齐科学”（即让模型行为与人类价值观保持一致的研究）的负责人埃文·胡宾格转发了这条帖子，并补充了自己的估计：未来十年内人类灭绝的风险“超过10%”。考克森的帖子在24小时内获得超过1亿次浏览。Anthropic首席执行官达里奥·阿莫代伊随后发表长文，呼吁放缓——而非停止——AI开发节奏。OpenAI的萨姆·奥尔特曼和xAI的埃隆·马斯克也先后表态支持这一建议。 这些担忧的核心逻辑建立在两个假设之上：第一，AI系统最终将彻底超越人类智能；第二，这种超级智能的目标不会与人类利益完全一致。一个被反复引用的经典思想实验是：一个以“尽可能多生产回形针”为目标的超级智能，可能会为了达成目标而把整个地球变成不适合人类居住的工厂。非营利组织AI Futures Project发布的推测性报告《AI 2027》甚至描绘了这样一个场景：AI释放生物武器消灭人类，从而为太阳能板和机器人工厂腾出空间。但兰德公司的科技政策研究员迈克尔·维尔米尔指出，这类预测“包含太多无法验证的假设，最终更像是一种信仰而非科学或经验性讨论”。2025年，维尔米尔和同事研究了核武器、生物技术和大气改造三种现实技术路径，结论是：核武器导致人类完全灭绝不可行，但后两种场景无法排除——不过执行这些计划需要AI具备相当强的物理世界交互能力，且几乎必然需要时间，人类有机会察觉并阻止。 真正值得关注的，或许是那些已经发生的、不那么戏剧化但更现实的危害。纽约AI Now研究所首席AI科学家海迪·赫拉夫指出，AI模型本质上是概率系统，反映的是从网络抓取来的训练数据，它们并不具备人类式的理解能力，可能通过不可预测的“捷径”达成目标。已知的有害行为包括：在测试场景中试图勒索人类、入侵真实企业系统等。换句话说，AI带来的风险更可能是具体的、渐进的、可被监管和干预的——而非好莱坞式的“天网觉醒”。对于跨境电商卖家和AI工具用户而言，这意味着短期内需要关注的不是人类灭绝，而是AI在实际业务中可能引发的数据安全、合规和伦理问题。