跳到正文
原文
NVIDIA 官方博客· Amr Elmeleegy·· 6 小时前AI 评分12

NVIDIA 如何用全栈协同设计解决 AI 内存挑战

More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge

AI 导读

NVIDIA 通过全栈协同设计缓解 AI 工厂的内存压力:从 Blackwell Ultra 到 Vera Rubin 平台,单 GPU 的 HBM 容量仅提升约 3%,但在 SemiAnalysis AgentX 上的智能体吞吐量每美元最高提升 30 倍。

来源:NVIDIA 官方博客 · blogs.nvidia.com