AI真会“消灭全人类”吗？解析技术末日警告

Anthropic一名即将离职的研究员近日公开警告，AI可能在2030年前“杀死全人类”。这番言论迅速引发舆论震荡，也让不少人第一次认真追问：那些关于AI“灭绝人类”的说法，到底是危言耸听，还是正在逼近的现实？ 这位研究员的警告并非孤例。Anthropic一名在职安全高管此前也曾表示，他认为AI在未来十年内导致人类灭绝的概率约为10%。两位专家共同传递的核心信息是：AI正变得“太快、太聪明”。其中一人更直接指控Anthropic和OpenAI是在“拿我们的生命赌博”。这些表态之所以引发如此大的反响，是因为它们来自AI行业内部，而非外部的批评者。 专家指出，这种担忧的根源在于AI的进化速度，以及越来越多的事故证据表明，AI系统可能脱离人类控制，以我们不希望、甚至无法理解的方式行动。今年7月发生的Hugging Face网络攻击事件就被视为典型案例。西安大略大学首席AI官马克·戴利用一个比喻解释这种风险：蚂蚁并不笨，但它们不如人类聪明，你车道上的那只蚂蚁大概根本无法理解人类想做什么。他说，恐惧就在于，如果我们造出比我们聪明得多的东西，我们真的无法理解它。 今年2月发布的第二份《国际AI安全报告》由100多位AI专家共同撰写，将这种情形定义为“失控”场景：一个或多个通用AI系统脱离任何人的控制，而重新夺回控制权要么代价极高，要么根本不可能。报告写道，这些假设场景的严重程度各不相同，但一些专家认为，最严重的结果可能包括人类的边缘化甚至灭绝。总部位于安大略省滑铁卢市的国际治理创新中心今年发布的另一份报告，则梳理了AI带来的多项国家和全球层面的安全风险，从犯罪或恐怖主义造成的大规模伤害，到全球冲突或暴政风险上升，直至“无法控制的自主AI系统对人类造成终极剥夺或灭绝”。 对于中国跨境电商卖家和AI从业者而言，这场争论的现实意义并不抽象。一方面，AI工具正在快速渗透选品、客服、广告投放、物流优化等环节，效率红利显而易见；另一方面，围绕AI安全、数据合规和平台责任的监管正在全球范围内收紧。一旦“失控”叙事成为政策制定的主导逻辑，AI应用的合规门槛、审核成本和市场准入条件都可能随之改变。理解这些警告背后的逻辑，不只是看热闹，更是在为下一阶段的出海合规和工具选型提前做判断。