跳到正文
热点事件持续更新

SkyPilot讲解NVL72机架感知调度实践

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

SkyPilot 发布技术讲解,介绍其平台如何通过拓扑感知放置让多节点训练和推理任务保持 rack-local,并配合原地故障恢复和共享集群自动碎片整理来维持 NVLink 域内通信优势。SkyPilot 称,在同一批 NVL72 机架上因此多出 27% 可用 GPU。 讲解还给出通信瓶颈的量化依据:跨节点走 InfiniBand 会使训练吞吐下降 43%;在 vLLM 基准中,张量并行扩展到两块 H100 后 KV cache 块数增至 13.9 倍、吞吐提升 3.9 倍。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. Hacker News
    Grace Blackwell 需要新的调度器:同一机架提升 27% 可用 GPU

    SkyPilot 通过拓扑感知调度让多节点训练任务保持 rack-local,在同一批 NVL72 机架上多出 27% 可用 GPU。跨节点走 InfiniBand 会使训练吞吐下降 43%,vLLM 基准中张量并行到两块 H100 后 KV cache 块数增至 13.9 倍、吞吐提升 3.9 倍。平台靠原地故障恢复和共享集群自动碎片整理,维持 NVLink 域内通信优势。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。