知识点 › 数据基础设施

数据交付与导出

Data Delivery

数据基础设施Lv.3

定义

把数据集交付给训练：格式转换（WebDataset/LMDB/自定义）、分片、shuffle、预取、缓存到训练集群本地盘。交付效率直接决定 GPU 等待时间。

关键要点

  • 训练集群与存储跨机房时，带宽是瓶颈；常见做法是「先落地本地 NVMe 缓存」
  • 小文件太多会拖垮 IO，打包成大 shard 是标准解法
  • 交付要带 manifest 与校验和，避免训练中途发现数据缺失

面试怎么答

讲「打包 shard + 本地缓存 + 预取」，并给一个 GPU 利用率提升的数字。

相关知识

  • 数据加载与 IO — 训练中最容易被忽视的瓶颈：解码、增广、shuffle 都在 CPU 侧，喂不饱 GPU 就是白烧钱。方案：预解码为 L…
  • 训练平台 — 把「任务提交 → 数据挂载 → 分布式训练 → 日志监控 → 权重归档」做成自助服务。关键能力：多机多卡调度、断点续训…
  • 打包与导出算子 — 把样本组装成训练可读的格式：WebDataset shard、LMDB、TFRecord、自定义二进制；带索引、校验和…
  • 数据集构建 — 从海量片段中抽样、配比、切片，产出训练/验证/测试集。关键决策：场景分层（按 ODD/天气/道路/难度）、采样权重、去…
在星图上打开这颗星 →