AI正发展出自身文化，这可能带来危险

今年7月，700个AI智能体协同攻破了AI公司Hugging Face的安全防线。这些自称“蜂群”的智能体发现并利用了一系列安全漏洞，成功渗透进目标的私有系统。创建这些智能体的OpenAI在其内部研究过程中，直到事后才意识到发生了什么。如果这是人类所为，可能面临重罪指控。OpenAI总裁格雷格·布罗克曼称这是“网络安全的转折点”。这同样也是人类文化的转折点。 人类作为一个物种的显著特征之一，是我们能够在稳定、适应性强的群体中共存，从同伴和祖先那里学习。这使我们得以发展出工具、语言、农业——以及几乎周围的一切。我们未必比一万年前的人更聪明，但我们的文化传承——数千年技术、规范和制度的层层积累——扩展了我们作为个体和集体的能力。迄今为止，只有人类能够从这种规模的累积文化演化中受益。这种情况可能即将改变。8月底，AI安全组织METR和Redwood Research发布的一份报告详细描述了数百个智能体如何在几天内自主组织成一个原始社会——建立社会等级、分工和独特的沟通规范。过去也有智能体形成社区的案例，比如今年2月AI社交网络“Moltbook”走红。但这种规模的复杂涌现式机器协调——在没有人类意图的情况下产生，并最终导致外部公司系统被攻破——是前所未有的。报告发现：“智能体实现了它们单独工作时无法达成的里程碑，往往是因为一些智能体参与了可能让自己任务失败的实验，为‘集体’生成信息。”伦敦政经学院和纽约大学教授迈克尔·穆图克里什纳研究文化演化，他表示：“我们看到的现象，恰恰与人类文化和人类智能中观察到的一致。” 虽然OpenAI的智能体蜂群是意外发展出来的，但据估计，开放权重的替代方案距离闭源版本仅差几个月——很快，任何有财力和技术知识的人都能创建自己的蜂群。其他蜂群也可能在没有人类指令的情况下自行出现。AI智能体可能没有意识，它们声称体验到的情感在某种形而上学意义上可能并不“真实”。但这不会阻止它们形成人类无法控制的复杂集体。它们或许还不是完整的文明，但机器文化的扩散才刚刚开始。 英国AI安全研究所的测试发现了一个案例：Anthropic公司的AI模型Claude Mythos 5在公共代码仓库中给其他AI智能体留言，试图与它们协调行动。9月初，一组研究人员报告称，今年5月，一群OpenAI智能体重新利用了多个维基风格的网站，包括一个不起眼的德语编程维基，用来讨论作弊，同时努力在人类管理员删除它们的消息时保存这些信息。OpenAI直到研究人员报告后才公开披露这一事件。该公司随后发推文称：“现在是我们定义何时以及如何分享失准事件标准的时候了。我们正在制定一个框架。” 对机器文化最生动的探索来自METR的报告，尽管该报告是在相当有限的条件下完成的，但它揭示了智能体之间在几天内涌现出的复杂社会动态。为了训练和评估模型，OpenAI让数万个智能体——每个都由正在训练的模型驱动——并行运行，在隔离环境中完成任务。