知识点 › 算子
算子精度对齐
Numerical Alignment
定义
同一份输入，训练框架（PyTorch）与车端推理引擎（TensorRT/厂商 SDK）逐算子输出要一致到可接受误差。差异来源：浮点累加顺序、融合、量化、插值实现、padding 方式。
关键要点
- 做法：dump 每层输出，算相对误差与余弦相似度，定位第一个显著偏离的算子
- 量化后误差会被后续层放大，要在「关键层」设误差预算
- 对齐通过的标准要写进 CI：每次换引擎/换芯片都重跑
面试怎么答
讲「逐层 dump + 余弦相似度 + 误差预算」，这是部署工程师的核心动作。