跳到正文
原文
Meta 工程博客·· 6 天前AI 评分20

Meta 如何将闲置 AI 推理容量转化为更好的广告推荐

Turning Opportunistic AI Inference Capacity Into Better Ads Recommendations

AI 导读

Meta 构建了一套系统,把分散在各团队、区域和加速器类型中的闲置推理容量聚合成共享的机会容量池,用于提升广告推荐效果。系统通过 Rank More Ads(RMA)调整排序阶段评估的候选广告数量、Serve Better Models(SBM)调整路由到更强模型的比例这两个弹性杠杆,在不影响基线服务的前提下扩展可选工作负载。

来源:Meta 工程博客 · engineering.fb.com