跳到正文
Hacker News· wondersky·· 4 小时前AI 评分41

Grace Blackwell 需要新的调度器:同一机架提升 27% 可用 GPU

Grace Blackwell needs a new scheduler: 27% more usable GPUs from the same racks

AI 导读

SkyPilot 通过拓扑感知调度让多节点训练任务保持 rack-local,在同一批 NVL72 机架上多出 27% 可用 GPU。跨节点走 InfiniBand 会使训练吞吐下降 43%,vLLM 基准中张量并行到两块 H100 后 KV cache 块数增至 13.9 倍、吞吐提升 3.9 倍。平台靠原地故障恢复和共享集群自动碎片整理,维持 NVLink 域内通信优势。

来源:Hacker News · skypilot.ai