The Register· Tobias Mann ·· 5 小时前AI 评分64
Meta披露Prometheus超级集群通过GPU热备与检查点降低训练中断
Tens of thousands of Nvidia GPUs sit idle in Meta's Prometheus supercluster, just waiting for a failure
AI 导读
Meta表示，Prometheus超级集群中超过11%的GPU处于故障或备用状态；其采用热备GPU、数据并行隔离和分布式检查点，将每8,000块GPU的日均中断次数从约1,000次降至约11次。文章还称，该集群当前由GB200和GB300系统组成，每组72块GPU中64块投入使用、8块作为热备。
来源：The Register · theregister.com