Hugging Face Blog·· 3 小时前精选AI 评分78
Ai2以GPU时间预算与分层公平共享改进GPU集群调度
Impactful scheduling for GPU clusters
AI 导读
Ai2将GPU集群的优先级调度替换为包含GPU时间预算、分层公平共享和时间切片契约的系统,用于在算力需求超过容量2–3倍时提高高影响力工作负载的资源分配。系统在30天测试中使团队获得应得GPU时间的98%,集群占用率保持98%,但交互式会话和大型工作负载的容量碎片问题仍需处理。
推荐理由
详细说明GPU时间预算、分层公平共享和时间切片契约如何落地,并提供模拟、灰度 rollout、实测指标与问题复盘,适合研究团队设计和改进稀缺算力的调度机制。
来源:Hugging Face Blog · huggingface.co