AI工具AI评分 头条 (70)AI 中文改写

构建企业级智能体AI环境

3 小时前 1 阅读来源:MIT Technology Review
构建企业级智能体AI环境

AI 中文改写

原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接

英特尔最新研究揭示:企业级AI Agent部署的五大实战法则 企业级AI Agent并非简单的聊天机器人升级版,而是能够端到端执行跨人员、工作流、数据和系统的软件代理。英特尔通过数千次实验,为企业领导者总结出五条关键经验:AI Agent是一个更大的系统问题,而不仅仅是推理问题;现有大多数AI Agent框架存在局限性,无法衡量整体系统性能;容量规划应基于每虚拟CPU(vCPU)的Agent密度而非Agent数量;监控Agent任务延迟而非平均CPU利用率;托管Agent的系统默认采用横向扩展,仅在每Agent计算量较重或架构受限时采用纵向扩展。 英特尔指出,AI Agent的价值取决于完整系统,包括任务编排、数据访问、工具执行、延迟管理、治理和可扩展基础设施。Agent本质上是目标驱动的自动化企业工作流进程:它规划多步骤任务、调用工具、读取结果,并在失败时重试。因此,企业Agent不仅是推理问题,更是系统问题。为了更深入理解AI Agent工作负载性能,英特尔扩展了开源基准测试工具Terminal-Bench,增加了性能分析、遥测和回放功能。该扩展使用确定性的LLM响应记录-回放机制,将Agent性能与LLM可变性分离,从而提供更可靠的比较基础。测试任务涵盖编译、测试、数据库操作、布尔逻辑、解释、光线追踪、压缩、线性代数、视频转码和机器学习训练等广泛场景,使其更贴近真实企业环境。 英特尔建议企业分三个阶段部署AI Agent:首先,根据Agent密度而非数量进行规划,将Agent数量按可用计算资源归一化,Agent密度(每vCPU的Agent数)是饱和度的首要信号。例如,8-vCPU系统上的10个Agent与16-vCPU系统上的20个Agent在密度相同时表现相似,这为架构师提供了跨实例大小和处理器代际比较容量的可移植方法。其次,合适的密度取决于业务目标:交互式副驾驶和面向用户的助手应倾向于低密度,因为响应时间至关重要;而IT工作流等批处理任务通常可以在较高密度下运行。这使团队能够围绕服务水平目标和总拥有成本(TCO)来实际调整集群规模。最后,企业需要关注六个关键指标:任务成功率、每任务成本、每任务时间、任务吞吐量、Agent密度(每vCPU的Agent数)和延迟。这些指标共同回答了企业AI运营者关心的问题:系统是否按预期运行?系统能支持多少Agent?如何扩展以支持更多Agent?

以上为 AI 中文改写版本,如需查看英文原文请访问

英文原文 · MIT Technology Review

内容版权归原作者及 MIT Technology Review 所有

这篇文章对你有帮助吗?
觉得有用?分享给更多人

留言 · 0

暂无留言,来说两句吧

留言经合规过滤后展示,禁止违法内容