Hugging Face Blog·· 2026-08-18AI 评分52
Dharma AI 发布约束感知 GPU 调度器:同集群利用率最高提升 33 个百分点
Same Cluster, 33 Points More Utilization: What Changed Was the Order
AI 导读
Dharma AI 在 Hugging Face Blog 发布约束感知 GPU 分配器,与 FIFO 调度器在 7 个基准场景对比,GPU 利用率最高提升 33 个百分点,优先级加权产出平均提升 52%。该调度器将实时推理视为需求曲线而非峰值预留,批任务按优先级在 24 小时视野内规划,每次决策仅 1 至 15 毫秒,每个时间步只提交当前分配并每 30 至 60 分钟重跑以吸收预测误差。
来源:Hugging Face Blog · huggingface.co