Meta Andromeda：通过模型-系统协同设计驱动下一代广告检索

Meta 正在把广告检索系统推向新的量级。根据其工程团队披露的信息，最新一代 Andromeda 广告检索引擎在线上环境中每秒可评估超过 10 亿条广告，相比 2024 年的版本吞吐量提升约 100 倍，同时模型精度已接近排序阶段（ranking）的水平。对广告主来说，这意味着在同样的延迟预算内，系统能在更大的候选池里完成广告匹配，自动带来更好的投放表现。自 2025 年以来，Andromeda 已让 Facebook 上的转化率提升了 2.4%。 要理解这次升级的分量，得先看清广告推荐的基本流程。广告系统通常分两步：检索（retrieval）先从海量合格广告中快速筛出一小批候选，排序（ranking）再对这些候选做精细打分。排序阶段的模型质量历来更高，但计算成本也大得多，过去无法用在检索这个量级上。2024 年 Andromeda 首次部署时，借助英伟达 GH200 Grace Hopper 超级芯片和端到端优化的检索架构，把模型容量扩大了四个数量级，为这次突破打下基础。而生成式 AI 创意工具的普及，让广告主得以快速产出数亿条新广告，候选池规模空前膨胀，旧架构的瓶颈随之暴露：当吞吐量冲到每秒数十亿条广告时，真正卡住系统的不再是算力，而是数据在内存层级间搬运的带宽——GPU 内核之间的中间张量每秒产生数 TB 的内存流量，本地 CPU 主机与远程加速器之间的数据传输也把网络链路打满。Meta 的解法是把模型、系统和 GPU 硬件放在一起协同设计，将原本碎片化、分布式的负载整合进单一 GPU 流水线，从而在不显著增加成本的前提下把模型性能推到接近排序阶段的水平。这套思路对出海卖家的直接含义是：广告匹配的候选范围更大、精度更高，投放效率的提升会体现在系统层面，而不需要广告主手动调整。