Meta 工程博客·· 4 小时前AI 评分22
走进 Prometheus:Meta 的吉瓦级超级集群之路
Inside Prometheus: Meta’s Journey to a Gigawatt-Scale Supercluster
AI 导读
Meta 吉瓦级超级集群 Prometheus 首期已建成,用于训练 Muse 系列基础模型,并正朝约 100 万块 GPU 规模扩展。Muse Wonder 预训练 goodput 超过 85%、强化学习 goodput 超过 90%,训练中断间隔约 47k GPU 小时,固件修复后提升至 54K GPU 小时以上。
来源:Meta 工程博客 · engineering.fb.com