知识点 › 车端基础
GPU 算力与配额
GPU Budgeting
定义
车端 GPU（如 Orin / Thor）是被争抢最激烈的资源：主感知链路、影子模型、录像编码、甚至座舱渲染共用同一块显存与算力。工程上要做四件事：①算力配额（SM / 时间片 / MPS 优先级通道）；②显存预算，避免推理与编码互相挤爆；③热设计——高温降频是白盒故障，性能会突然掉一半；④可观测——每进程的利用率、显存、温度、频率必须能看。
关键要点
- 影子模型只能在主链路有余量时跑，否则是拿安全换覆盖率
- 温度降频比 OOM 更阴：不报错，只是帧率掉、延迟涨，trigger 逻辑跟着失真
- 编码走 NVENC 硬件单元，但与 CUDA 核抢显存带宽，录像与推理要错峰
- 显存泄漏在车端是慢性死亡，靠长稳测试 + 水位告警兜住
面试怎么答
讲「配额 + 显存预算 + 降频可观测」，并给出「影子模型只在余量窗口运行」的策略。
相关知识
- 车端采集链路 — 车端四件事：①编码解码管理系统——把多路视频/点云/CAN 信号统一编码与缓存；②编码解码系统（trigger）——按…
- 影子模式 — 新模型在车上「并行运行但不控车」，与在用策略/人类驾驶对比，差异片段回传。它是「零风险验证 + 自动发现 bad ca…
- CPU、内存与调度 — CPU 在车端的核心问题不是「快不快」，而是「隔不隔离」：①isolcpus + 绑核，把通信收发、感知后处理放到专属…
- 车端基础全景（四层） — 车端是一个「资源受限 + 安全受限 + 不可现场调试」的计算环境，可以拆成四层：①OS 层（Ubuntu 裁剪、实时内…