知识点 › 部署与回流

量化部署

Quantization

部署与回流Lv.3

定义

PTQ 用校准集定 scale，QAT 在训练中模拟误差。INT8 是主流，INT4 在探索。关键是「校准集要覆盖真实分布」，否则某些通道被截断。

关键要点

  • 混合精度：敏感层保留 FP16，其余 INT8
  • 校准集要含夜间/雨天/矿区粉尘等极端样本
  • 量化误差会放大到 BEV 投影与 3D 回归，要分层验证

面试怎么答

讲「校准集覆盖极端场景」，说明你做过真实部署。

相关知识

  • 量化与量化感知训练 — PTQ（训练后量化）快但有精度损失；QAT（量化感知训练）在训练中模拟量化误差，精度更好。智驾车端 INT8 是常态，…
  • 模型压缩 — 量化（FP16/INT8/INT4）、剪枝（结构化/非结构化）、蒸馏、算子融合、低秩分解。目标是「在车端算力与功耗约束…
在星图上打开这颗星 →