Meta 工程博客·· 3 小时前AI 评分18
Meta Andromeda：通过模型-系统协同设计驱动下一代广告检索
Meta Andromeda: Powering the Next Generation of Ads Retrieval Through Model-System Co-Design
AI 导读
Meta 发布下一代个性化广告检索引擎 Meta Andromeda，在单张 GH200 GPU 上实现每秒超 10 亿次广告打分，吞吐量较 2024 年系统提升 100 倍。新架构引入 LLM 式 MoE，推理 FLOPs 比 2024 版检索模型少约 300 倍，性能接近排序阶段水平。自 2025 年以来，该系统在 Facebook 上带来 2.4% 的转化提升。
来源：Meta 工程博客 · engineering.fb.com