知识点 › 算子
算子融合与图优化
Graph Fusion
定义
编译器把多个算子合并成一个 kernel：Conv+BN+ReLU、Concat 消除、常量折叠、内存复用、量化融合（QDQ 折叠）。目的是减少访存与 kernel 启动开销。
关键要点
- 融合会改变数值结果（浮点结合律），要评估对精度的影响
- 融合失败往往因为「中间结果被多处引用」或「动态 shape」
- 看融合效果要看「访存量」与「kernel 数」，不只看时延
面试怎么答
讲「融合省的是访存不是算力」，这是理解推理优化的关键。
相关知识
- 推理算子 — 计算图里的基本运算：Conv、BN、ReLU、Resize、Concat、Slice、Transpose、Softma…