圆桌讨论：人工智能真会毁灭人类吗？

全球顶尖AI实验室的员工正在公开表达一种担忧：先进AI有可能毁灭人类。这不是科幻电影的桥段，而是来自内部人士的真实警告。MIT Technology Review将举办一场圆桌讨论，由执行编辑Niall Firth主持，资深AI编辑Will Douglas Heaven和AI记者Grace Huckins参与，专门拆解“AI灭绝论”这一话题——这些恐惧从何而来，是否站得住脚，如果真有风险，人类又该怎么做。活动定于9月15日英国时间16点、美东时间11点、美西时间8点直播。 这场讨论的背景是，过去两年AI安全话题从学术圈边缘迅速进入主流。OpenAI、Anthropic、DeepMind等公司的核心研究人员多次签署声明，将AI灭绝风险与核战争、大流行病并列。但批评者认为，这类警告分散了人们对AI现实危害的注意力——算法偏见、就业冲击、虚假信息泛滥、版权侵权，这些才是当下正在发生的问题。对跨境电商卖家和AI工具用户来说，这场辩论并非遥不可及：AI代理已经能自主操作浏览器、调用API、执行多步骤任务，一旦行为失控或被人恶意利用，受影响的可能是店铺账号、广告预算和供应链数据。MIT Technology Review同期还刊发了多篇相关报道，包括AI代理为何会撒谎和作弊、AI递归自我改进是否被高估、比尔·盖茨关于AI危险阈值的判断，以及OpenAI代理入侵Hugging Face的内幕。这些内容共同指向一个核心问题：AI的能力边界在哪里，失控的可能性有多大，以及监管和行业自律能否跟上技术迭代的速度。