知识点 › 模型训练

量化与量化感知训练

QAT

模型训练Lv.3

定义

PTQ（训练后量化）快但有精度损失；QAT（量化感知训练）在训练中模拟量化误差，精度更好。智驾车端 INT8 是常态，检测小目标对量化最敏感。

关键要点

  • 要先看「哪些层对量化敏感」，逐层混合精度比全 INT8 更实用
  • 量化后必须在「真实数据 + 真实标定」上重测，不能只看 COCO
  • 训练-部署的预处理必须逐位一致，否则量化误差被放大

面试怎么答

讲「混合精度 + 真实数据重测」，说明你处理过部署掉点。

相关知识

  • 量化部署 — PTQ 用校准集定 scale，QAT 在训练中模拟误差。INT8 是主流，INT4 在探索。关键是「校准集要覆盖真实…
  • 算子精度对齐 — 同一份输入，训练框架（PyTorch）与车端推理引擎（TensorRT/厂商 SDK）逐算子输出要一致到可接受误差。差…
  • 训练平台 — 把「任务提交 → 数据挂载 → 分布式训练 → 日志监控 → 权重归档」做成自助服务。关键能力：多机多卡调度、断点续训…
在星图上打开这颗星 →