跳到正文
InfoQ· Craig Risi·· 3 小时前AI 评分66

Netflix 将 GPU 可靠性视为分布式系统问题,构建分层健康检查与自动修复平台

Netflix Treats GPU Reliability as a Distributed Systems Problem

AI 导读

Netflix 介绍了其为大规模 GPU 训练与推理构建的可靠性平台,通过分层健康检查、渐进式自动修复和容错训练应对硬件故障。基于 Kubernetes 的方案实现超过 99.95% 的 GPU 节点可用性,作业成功率从约 98% 提升到 99.5% 以上。文中还对比了 Meta 在硬件故障检测与快速恢复方面的做法。

来源:InfoQ · infoq.com