人工智能会消灭人类吗？它可能如何做到？

过去两年，AI安全话题从学术圈的小众讨论迅速升温为全球科技界的焦点议题。BBC网络记者Joe Tidy近日梳理了所谓"AI末日论者"（AI Doomers）的核心担忧：一些最悲观的预测认为，未来十年内AI导致人类灭绝的概率超过10%。这一数字并非出自科幻爱好者之口，而是来自部分AI科学家的严肃警告。围绕"AI究竟如何可能终结人类"这一问题，Tidy归纳了几种被反复讨论的场景，并逐一评估其现实可能性。 这些末日场景大致可分为几条路径。其一是失控的超级智能：当AI系统的能力全面超越人类，且其目标与人类利益不一致时，可能通过操纵信息、控制关键基础设施甚至研发新型武器来摆脱人类约束。其二是渐进式权力转移：AI未必需要"主动消灭"人类，而是逐步接管经济决策、军事指挥和舆论传播等核心领域，使人类在事实上丧失主导权。其三是技术滥用：即便AI本身没有"意识"，恶意行为者利用AI制造生物武器、发动大规模网络攻击或操纵选举，同样可能造成灾难性后果。值得注意的是，持怀疑态度的研究者认为，这些场景大多建立在高度推测之上，当前AI系统距离"通用人工智能"（AGI，即能在各类任务中达到人类水平的AI）仍有显著差距，10%的灭绝概率缺乏实证支撑。 对中国的跨境电商卖家和AI从业者而言，这场争论并非遥远的哲学命题。一方面，AI安全监管正在加速落地——欧盟《人工智能法案》已分阶段生效，美国多州也在推进相关立法，这些法规将直接影响AI工具在选品、客服、广告投放等跨境业务中的合规使用。另一方面，"AI末日论"的升温正在改变资本和人才的流向：部分投资者开始要求AI初创企业提供安全评估报告，大型科技公司也纷纷设立AI安全团队。对于依赖AI提效的出海企业来说，理解这场辩论背后的政策风向，比争论"AI会不会毁灭人类"更具现实意义。