下载：AI灭绝风险与生物武器威胁

MIT Technology Review 本周举办了一场圆桌讨论，主题是当下科技圈最焦虑的问题之一：AI 真的可能灭绝人类吗？讨论由资深 AI 编辑 Will Douglas Heaven 和 AI 记者 Grace Huckins 主持，现场观众提问远超活动时间所能容纳，两位记者随后挑选了最具代表性的问题作出回应。这些问题包括：我会不会因此丧命？AI 为什么要杀我们？AI 的危险是真实存在，还是科技公司为了公关刻意渲染？以及，我们究竟能采取哪些措施来有效控制、监督和监管 AI？这场讨论的背景是，随着大模型能力快速迭代，AI 安全议题已经从学术圈扩散到公众视野，但大众对"灭绝风险"的理解往往停留在科幻层面，缺乏对具体威胁路径的认知。 与"AI 灭绝人类"的宏大叙事相比，一个更具体的风险正在生物科技领域浮现：AI 可能被用来辅助设计和制造生物武器。2022 年，研究人员发现，利用一个本用于药物开发的 AI"分子生成器"，在不到六小时内就能生成 4 万个可作为化学战剂的分子。如今，AI 工具几乎能回答所有科学领域的问题，基因编辑和合成生物学的进步又让生物技术工具的门槛不断降低。虽然存在一些防护措施，但没有一项是万无一失的。更棘手的是，科学家们对这项风险到底有多严重本身就存在分歧。对于跨境电商卖家和出海创业者而言，这一趋势意味着两件事：一是生物科技相关产品的跨境流通将面临更严格的合规审查，二是 AI 工具在科研场景中的滥用风险可能催生新的监管红线，提前了解这些动向有助于规避政策风险。 其他值得关注的动态：微软和 OpenAI 的内部员工在纽约时报版权案中表示，AI 正在摧毁互联网——AI 抓取内容蚕食网站点击量，正在瓦解支撑原创内容持续产出的商业模式，员工们担心出版商无法在 AI scraping 下存活，这些言论可能削弱 OpenAI 和微软的辩护立场。机器人船只首次在实战中交火，一艘乌克兰无人艇击沉了一艘俄罗斯船只，与此同时美国企业正在建造可投入战斗的人形机器人。安全研究人员利用 Anthropic 的工具攻破了 OpenAI，触及了一名员工的 ChatGPT 账户和内部代码，攻击路径是通过一个第三方论坛渗透进内部系统。此外，OpenAI 据报预计将很快攻克又一个著名数学难题——霍奇猜想，但外界关注的是，它能否在公布时避免再次引发争议。