跳到正文
原文
Hugging Face Blog·· 2026-08-18AI 评分52

Dharma AI 发布约束感知 GPU 调度器:同集群利用率最高提升 33 个百分点

Same Cluster, 33 Points More Utilization: What Changed Was the Order

AI 导读

Dharma AI 在 Hugging Face Blog 发布约束感知 GPU 分配器,与 FIFO 调度器在 7 个基准场景对比,GPU 利用率最高提升 33 个百分点,优先级加权产出平均提升 52%。该调度器将实时推理视为需求曲线而非峰值预留,批任务按优先级在 24 小时视野内规划,每次决策仅 1 至 15 毫秒,每个时间步只提交当前分配并每 30 至 60 分钟重跑以吸收预测误差。

来源:Hugging Face Blog · huggingface.co