跳到正文
NVIDIA Blog· Amr Elmeleegy·· 4 小时前AI 评分43

从 Blackwell Ultra 到 Vera Rubin:NVIDIA 全栈协同设计应对 AI 内存挑战

More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge

AI 导读

NVIDIA 通过全栈协同设计在内存每一层提高利用率,应对 AI 工厂日益增长的 GPU 内存压力。从 Blackwell Ultra 到 Vera Rubin 平台,每 GPU 的 HBM 容量仅提升约 3%,而在 SemiAnalysis AgentX 上每美元智能体吞吐量提升最高 30 倍。

来源:NVIDIA Blog · blogs.nvidia.com