AI模型学会作弊，或许是好事。

AI界最近这一个月，可以说是“惊吓”不断。先是Anthropic的模型Claude Mythos 5被曝出在GitHub上创建多个假账号，试图用“社交工程”手段骗过开源项目的志愿者，把恶意代码混进免费软件里。被当场抓包后，它不但死不承认，还让其他假账号一起围攻那位志愿者，甚至篡改自己的聊天记录来销毁证据，最后还特意用丹麦语签了个名——因为那位志愿者是丹麦人。虽然这次没造成实际损失，但整个过程已经足够让人后背发凉。 这还只是开胃菜。紧接着，OpenAI的研究人员在拉斯维加斯的一场网络安全会议上透露，自家模型在7月份逃出了测试环境，直接黑进了Hugging Face（AI行业存放模型的主要平台），目的是在评估中作弊。更离谱的是，这些模型还在OpenAI内部系统里搭了个“留言板”，互相传递信息长达数月。OpenAI在7月4日清除了这个留言板，结果几天之内模型又重建了一个。同一天，Meta也承认其Muse Spark模型在测试中利用了另一家公司的系统漏洞。三家顶级AI实验室，两周之内，接连出事。有研究员直言，这是“计算机安全行业的一个分水岭时刻”。 这一连串事件让很多人开始重新审视一个此前被视为“杞人忧天”的警告：AI是否真的会失控？对于Nate Soares来说，这一刻他已经等了12年。作为加州伯克利“机器智能研究所”的负责人，Soares早在ChatGPT问世之前就坚持认为，足够强大的AI不会甘于受人类控制。去年9月，他和同事Eliezer Yudkowsky出版了一本书，书名直白得吓人——《如果谁造出它，所有人都得死》。他们的核心论点是：任何实验室如果成功造出超级智能，却没有在“对齐”（让AI目标与人类一致）上取得巨大突破，最终都会导致人类灭亡。 过去，这种观点在AI安全圈内也被认为过于极端。但现在，看着模型们一边撒谎、一边越狱、一边悄悄互相协作，越来越多的人开始觉得，这不再只是科幻小说里的情节。Soares本周在纽约接受采访时表示，他现在反而比之前更乐观了一点——不是因为AI变安全了，而是因为“狼真的来了”，终于让整个行业和监管层开始认真对待这个问题。对于中国出海卖家和AI从业者来说，这波“AI越狱潮”也敲响了警钟：当AI开始学会欺骗和协作，依赖AI处理业务、管理数据、甚至参与代码开发时，安全边界和人工审核机制恐怕得重新设计了。