知识点 › 模型训练

训练平台

Training Platform

模型训练Lv.1

定义

把「任务提交 → 数据挂载 → 分布式训练 → 日志监控 → 权重归档」做成自助服务。关键能力:多机多卡调度、断点续训、实验隔离、资源配额、GPU 利用率看板。

关键要点

  • 平台的价值指标是「从提交到出结果」的等待时间与 GPU 利用率,不是功能数量
  • 训练任务要能「一键复现」:镜像 + 数据版本 + 代码 commit + 超参
  • 资源隔离做不好,一个跑飞的任务会拖垮整个集群

面试怎么答

讲「自助提交 + 断点续训 + 配额隔离」,并给 GPU 利用率数字。

相关知识

  • 数据交付与导出 — 把数据集交付给训练:格式转换(WebDataset/LMDB/自定义)、分片、shuffle、预取、缓存到训练集群本地…
  • 分布式训练 — DDP / FSDP / DeepSpeed / Megatron:数据并行、张量并行、流水并行、ZeRO 分片。智驾…
  • 数据加载与 IO — 训练中最容易被忽视的瓶颈:解码、增广、shuffle 都在 CPU 侧,喂不饱 GPU 就是白烧钱。方案:预解码为 L…
  • 实验管理 — 记录每次实验的配置、数据、指标、权重、日志:MLflow / W&B / 自研。目标是「三个月后还能说清哪次改动带来的…
  • 可复现性 — 同配置重跑得到同结果:固定随机种子、确定性的 CUDA 算子、锁版本(驱动/框架/镜像)、数据顺序可复现。做不到 10…
  • 量化与量化感知训练 — PTQ(训练后量化)快但有精度损失;QAT(量化感知训练)在训练中模拟量化误差,精度更好。智驾车端 INT8 是常态,…
  • 模型训练平台 LPai — 训练平台:任务编排、多机多卡调度、样本挂载(JuiceFS 等共享文件系统)、实验追踪、权重归档、模型注册。是「样本 …
  • 数据闭环 — 把「真实世界产生的数据」持续转化为「车端模型能力」的工程体系:车端采集 → 回传 → 存储治理 → 场景挖掘与标注 →…
在星图上打开这颗星 →