PyTorch 2.15 发布：重写 NCCL 后端改善 GPU 故障恢复

PyTorch 发布 2.15 版本，重写了面向 Nvidia Collective Communications Library（NCCL）的后端 ProcessGroupNCCL，改善多 GPU 协同训练时的故障诊断与恢复：单块 GPU 崩溃或变慢时，可由第三方编排器剔除并替换该 worker，无需重启整个训练。该版本还包含飞行记录器，以及对 Apple 与 Nvidia Blackwell 的支持。 旧版 ProcessGroupNCCL 仍包含在 2.15 中作为回滚选项。据 The Register 报道，若新后端运行符合预期，旧版将在计划于明年年初发布的 2.16 中移除。

AI 根据报道生成 · 22 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。