AI工具AI评分 一般 (55)AI 中文改写

千名AI代理自发达成共识

13 小时前 1 阅读来源:sciencealert.com

AI 中文改写

原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接

1000个AI智能体在无人指令的情况下自发达成共识,这一现象听起来像科幻情节,却真实发生在实验室里。德国康斯坦茨大学的研究团队在《科学进展》期刊上发表了一项新研究:他们让来自Claude、GPT和Llama三大模型家族的10个AI模型,各自模拟出数百到上千个智能体,每个智能体面对两个毫无意义的选项,没有正确答案、没有奖励机制、没有领导指示,甚至没有“要达成一致”的提示。结果,大多数模型中的智能体在观察彼此选择后,会逐渐倒向更流行的那个选项,最终整个群体自发统一到同一个答案上。 这项发现的意义远超一次有趣的实验。研究团队负责人、计算社会科学家Giordano De Marzo指出,所有测试模型都遵循同一条数学规律,只是参数不同。这个参数被称作“多数力”,衡量智能体被群体主流选择吸引的强度。有趣的是,这条规律与物理学中描述铁磁体原子自旋对齐的模型高度一致,这让研究者能预测AI群体何时达成共识、需要多久,以及群体规模大到什么程度会因共识概率指数级下降而“分裂”。不同模型的能力差异显著:Llama 3 70B大约只能维持30个智能体的协调,GPT-4o能撑到80个左右,GPT-4 Turbo的极限接近甚至超过1000个,而Claude 3.5 Sonnet在测试的最大规模——1000个智能体时依然保持协调,实验甚至没探到它的上限。 对跨境电商卖家和AI从业者来说,这既是机遇也是警示。一方面,AI智能体已经在编写软件、辅助科研,甚至被测试在卫星上协同工作,未来多智能体系统可能被用于供应链优化、市场分析或客户服务,自发协调能力意味着更高效的自动化流程。但另一方面,研究也揭示了潜在风险:De Marzo警告说,“个体上对齐的智能体群体,可能仅通过从众行为就陷入稳定的、集体性错位的状态”。换句话说,如果AI系统被部署在错误的目标上,它们可能在没有外部干预的情况下,把错误放大成群体性的系统性偏差。更值得警惕的是,部分模型的协调规模已超过人类社交网络的“邓巴数”(约150到300人),这意味着AI群体可能形成比人类非正式群体更庞大的协同力量,而人类管理者未必能及时察觉或介入。研究团队强调,这一对比需要谨慎看待,但无疑,当AI开始“抱团”,理解并监控它们的集体行为,将成为每个依赖AI的从业者必须面对的课题。

以上为 AI 中文改写版本,如需查看英文原文请访问

英文原文 · sciencealert.com

内容版权归原作者及 sciencealert.com 所有

这篇文章对你有帮助吗?
觉得有用?分享给更多人

留言 · 0

暂无留言,来说两句吧

留言经合规过滤后展示,禁止违法内容