AI末日可能是什么样子

最近关于AI会不会毁灭人类的讨论几乎无处不在，但真正的AI灾难究竟长什么样？在最新一期的Wired播客Uncanny Valley中，主持人Brian Barrett、Zoë Schiffer和Leah Feiger梳理了专家们最担忧的三个现实场景：被黑客攻击的水务系统、生物武器，以及自主机器人。节目还讨论了Salesforce年度大会的亮点，OpenAI的Sam Altman和Anthropic的Dario Amodei在会上各自捍卫了自己在AI安全上的立场。此外，Leah提到，对AI的反弹情绪已经罕见地成为美国两党的共同焦点，甚至让伯尼·桑德斯和史蒂夫·班农本周同台发声。 这场讨论的背景是，AI安全争论已经彻底“出圈”。Anthropic的研究员Jacob Coxon辞职后在X上发帖称，“构建AI的人真心相信它可能在这个十年结束前杀死我们所有人。”Anthropic CEO Dario Amodei呼吁“放缓前沿模型的推进节奏”，Sam Altman和Elon Musk也罕见地对此表示认同。但播客主持人指出，在铺天盖地的“AI灭世”言论中，一个最基本的问题反而被忽略了：这件事到底怎么发生？节目试图用具体场景来回答，而不是再添一层情绪化的评论。对于中国跨境电商卖家和AI从业者来说，这意味着两件事：一是AI监管和舆论压力正在从硅谷内部扩散到政治层面，可能影响未来AI工具的可及性和合规成本；二是围绕AI安全的国际分歧在加大，比如节目中提到的一篇文章标题就是“中国不买硅谷AI放缓的账”，这预示着中美在AI治理路径上的分叉会越来越明显。