知识点 › 总纲

数据闭环

Data Closed Loop / Data Engine

总纲Lv.1

定义

把「真实世界产生的数据」持续转化为「车端模型能力」的工程体系：车端采集 → 回传 → 存储治理 → 场景挖掘与标注 → 训练 → 仿真评测 → 部署上车 → 再产生数据，形成自我强化的飞轮。本质是用数据规模与数据质量换长尾场景的覆盖速度。

关键要点

  • 闭环的判据不是「有链路」，而是「单位时间能处理多少有效长尾、多久回到车上」
  • 两个关键比率：数据利用率（采回的数据有多少进了训练）与闭环周期（从发现问题到新模型上车）
  • 它同时是技术体系（工具链）和组织体系（谁为数据质量负责）

面试怎么答

一句话定义 + 三个环节 + 一个量化指标（闭环周期或数据利用率），比背八个步骤更像真的做过。

常见踩坑

把「数据闭环」说成「数据标注流水线」是常见降级回答，闭环的重点在「反馈」与「自动化」。

相关知识

  • 长尾问题 — 自动驾驶的绝大多数里程是简单的（直道、白天、空旷），但安全事故几乎全部集中在低频、罕见、组合复杂的「长尾场景」上。长尾…
  • 数据飞轮 — 越多的车 → 越多的数据 → 越好的模型 → 更好的产品 → 更多的车。飞轮的转速由「闭环周期」决定，而不是由数据总量…
  • 数据驱动 vs 规则驱动 — 规则驱动靠工程师枚举 if-else 与几何逻辑，可解释、可验证，但无法覆盖组合爆炸；数据驱动靠模型从数据中拟合分布，…
  • 闭环核心指标 — 衡量闭环本身好不好，而不是模型好不好：数据利用率、自动标注率、闭环周期（发现→上车）、单位里程有效数据量、Bad Ca…
  • 数据成本结构 — 成本沿链路层层放大：采集（车/传感器/人力）→ 回传（流量）→ 存储（PB 级）→ 处理（算力）→ 标注（人力，最贵）…
  • MLOps 与数据闭环 — 把机器学习交付工程化：数据版本、实验追踪、模型注册、自动化流水线、监控与回滚。数据闭环是 MLOps 在智驾场景的特化…
  • 数据闭环成熟度 — L0 手工：靠人找 case、人工标注、手动训练；L1 工具化：平台化但仍有断点；L2 自动化：触发-挖掘-预标注-训…
  • 商业价值与降本 — 闭环的价值体现在三处：减少路测里程（仿真替代实车）、减少标注人力（自动标注）、缩短版本周期（更快修 bug）。对矿山/…
  • 闭环失效的典型坑 — 常见失效：①采集分布偏移（只采容易触发的场景，长尾反而漏掉）；②标注与训练目标不一致；③离线指标涨、实车不涨（过拟合测…
  • 传感器组合 — 典型 L2+/L4 配置：前视 8MP 摄像头 + 环视/侧后视 + 激光雷达（机械/半固态/固态）+ 毫米波雷达 +…
  • 触发采集策略 — 决定「哪些片段值得回传」，是数据闭环里杠杆最大的设计。好的触发让数据分布贴近「模型失败的地方」，差的触发只会重复采集简…
  • 数据回传 — 把车端数据传到云端：4G/5G 蜂窝、场站 WiFi（换电站/停车场/矿区基站）、专网。工程要点：断点续传、分片校验、…
  • 对象存储与分层 — 海量非结构化数据（视频/点云/图片）的底座：S3 协议（AWS S3 / 阿里 OSS / MinIO），按桶/前缀组…
  • 数据湖与湖仓一体 — 把原始文件 + 结构化元数据统一管理：Iceberg / Hudi / Delta Lake 提供 ACID、时间旅行…
  • 数据版本管理 — 数据集要像代码一样有版本：不可变快照 + 变更日志，能回答「这个模型是用哪版数据训的」「这版数据比上版多了什么」。工具…
  • 数据管道 — 把「解析 → 质检 → 脱敏 → 打标 → 入库 → 切片 → 导出」串成可重跑的有向无环图（DAG）。要求：幂等、可…
  • 数据质量体系 — 从「事后发现」转为「入库即拦截」：完整性（帧率/文件数）、一致性（时间戳/标定）、有效性（模糊/遮挡/曝光）、准确性（…
  • 权限、审计与安全 — 数据分级（公开/内部/敏感/重要数据）、最小权限、字段级脱敏、访问审计、下载管控。敏感数据（人脸、地理）要单独授权与水…
  • 数据集构建 — 从海量片段中抽样、配比、切片，产出训练/验证/测试集。关键决策：场景分层（按 ODD/天气/道路/难度）、采样权重、去…
  • 数据平台整体架构 — 分层：接入层（回传网关/解析）→ 存储层（对象存储 + 数据湖）→ 治理层（元数据/质量/权限）→ 加工层（管道/打标…
  • 数据分析与看板 — 面向运营与算法的分析：场景分布、接管热力图、区域覆盖率、数据增长趋势、标注产能、bad case 聚类。看板的作用是让…
  • 场景定义 — 场景 = 静态环境（道路/路口/车道/建筑）+ 动态要素（交通参与者及其行为）+ 任务（本车要去哪、要做什么）+ 环境…
  • 自动标注 — 用离线大模型（教师模型）+ 多帧融合 + 建图/SLAM 生成高质量伪标签，替代或减少人工。自动标注率（自动产出且被采…
  • 难例挖掘 — 从海量数据中把「模型表现差」的片段捞出来：基于失败事件（接管/AEB）、基于模型指标（低置信/高损失）、基于一致性、基…
  • 合成数据与场景重建 — 用仿真引擎或神经渲染（NeRF / 3DGS）重建真实场景，再编辑（加车、改天气、改光照）生成稀有样本。解决「真实数据…
  • 数据增广 — 几何（裁剪/翻转/旋转）、光度（亮度/对比度/噪声/雨雾模拟）、时序（丢帧/抖动）、传感器（点云 dropout/噪声…
  • 数据配比 — 决定训练集里各类场景的采样权重：简单场景做基底、长尾场景过采样、新开城/新车型加权、旧场景防遗忘。配比错了，模型会在「…
  • 标注成本与产能 — 成本构成：人力单价 × 单帧耗时 × 帧数 + 质检 + 返工 + 工具摊销。降本路径：预标注、跨帧传播、抽帧标注、复…
  • 训练平台 — 把「任务提交 → 数据挂载 → 分布式训练 → 日志监控 → 权重归档」做成自助服务。关键能力：多机多卡调度、断点续训…
  • BEV 感知 — 把多相机/激光雷达特征投影到统一鸟瞰图空间：BEVFormer（Transformer + 时序）、BEVDet/BE…
  • 端到端模型 — 从传感器输入直接输出轨迹/控制，中间不显式建模检测与预测（UniAD、VAD、DriveGPT 类）。优势：减少信息损…
  • 预训练与自监督 — 在大规模无标注数据上预训练（MAE、对比学习、掩码点云建模、视频预测），再下游微调。智驾里可显著降低对标注的依赖，尤其…
  • 蒸馏 — 大模型（教师）教小模型（学生）：软标签、特征对齐、关系蒸馏。智驾里主要用于「云端大模型 → 车端小模型」，也是自动标注…
  • 课程学习与难例训练 — 先易后难、或对难例加权：按难度分阶段训练、OHEM（在线难例挖掘）、focal loss、长尾重采样。目的是让有限容量…
  • 微调与持续学习 — 在新数据上继续训练：全量微调、LoRA、增量学习。难点是「灾难性遗忘」——新场景学会了，老场景退化了。需要回放旧数据、…
  • 迭代节奏与版本 — 模型版本节奏：日构建（CI 冒烟）→ 周迭代（功能/指标）→ 月发版（OTA）。每次发布要绑定数据版本、代码版本、模型…
  • 标签噪声与鲁棒训练 — 标注必然有错（漏标、错标、边界不一致）。鲁棒手段：损失函数（GCE/symmetric CE）、噪声样本识别（loss…
  • 离线评测 — 用固定数据集算指标，快速筛模型。优点是便宜、可重复；缺点是「开环」——模型测的是「重建历史」，不是「自己开车」。离线涨…
  • 闭环评测 — 模型输出直接驱动车辆（仿真里的车），环境随之变化，误差会累积、交互会真实发生。能暴露「开环看不出的问题」：犹豫、抖动、…
  • 仿真平台 — 由「场景描述 + 交通流 + 传感器模型 + 车辆动力学 + 评测器」组成。能力分层：回放（log replay）→ …
  • 回归门禁 — 每次模型/代码变更自动跑固定回归集，指标退化就阻止发布。是高频迭代的安全网：没有门禁，团队会陷入「修一个坏三个」的循环。
  • 接管率与 MPI — MPI（Miles Per Intervention）与每千公里接管次数是行业通用 KPI。问题：接管定义不统一、安全…
  • 安全论证与 SOTIF — ISO 26262 管「系统性失效与随机硬件失效」；SOTIF（ISO 21448）管「功能不足与可预见误用」——模型…
  • 测试集构建 — 测试集要「代表真实分布 + 覆盖长尾 + 绝对隔离」。构建方式：分层抽样 + 场景配额 + 人工精挑 + 冻结版本。测…
  • 指标体系设计 — 好的指标体系：北极星（安全/接管）+ 分层指标（感知/预测/规划）+ 过程指标（数据/训练/仿真）+ 业务指标（效率/…
  • 模型压缩 — 量化（FP16/INT8/INT4）、剪枝（结构化/非结构化）、蒸馏、算子融合、低秩分解。目标是「在车端算力与功耗约束…
  • OTA 升级 — 把模型/软件推到车端：差分包、A/B 分区、断点续传、断电保护、签名校验、灰度分批、失败回滚。是数据闭环「最后一公里」…
  • 影子模式 — 新模型在车上「并行运行但不控车」，与在用策略/人类驾驶对比，差异片段回传。它是「零风险验证 + 自动发现 bad ca…
  • 线上监控与埋点 — 车端埋点上报：接管、急刹、降级、感知异常、时延、算力占用、传感器故障。云端做看板与告警，按车型/区域/版本切片，异常自…
  • Bad Case 回流 — 线上问题 → 自动切片 → 归因 → 复现 → 修复 → 回归 → 上车 的完整链路。关键在「自动化」与「不丢失」：每…
  • 训练-部署一致性 — 同一帧数据，训练管线与车端管线的输出必须逐位接近：预处理（resize/归一化/颜色空间）、标定参数、坐标系、后处理（…
  • 线上掉点排查 — 系统化排查顺序：①确认现象与范围（车型/区域/版本/时间）；②对比新旧版本同场景数据；③查数据分布漂移；④查前后处理与…
  • 运营与用户反馈 — 安全员/远程操作员/乘客的反馈是最便宜的标注：一次「这车太怂」的抱怨往往指向一类规划问题。要把口头反馈结构化成「场景 …
  • 团队分工 — 典型拆分：数据平台（采集/存储/检索）、标注平台与标注运营、训练平台、仿真评测、车端部署/工具链、算法（消费方）。边界…
  • 工具链全景 — 采集 SDK → 回传网关 → 解析/质检 → 数据平台（存储/检索）→ 标注平台 → 样本工厂 → 训练平台 → 仿…
  • 飞轮指标 — 四个数：①闭环周期（天）；②数据利用率（%）；③自动标注率（%）；④Bad Case 复发率（%）。再加一个「单位数据…
  • 闭环 ROI — 投入：采集/存储/标注/算力/人力；产出：接管率下降、路测里程节省、版本周期缩短、人力减少。算法：省下的路测车日 × …
  • 流程与制度 — 让闭环「不依赖英雄」：数据准入标准、标注规范评审、模型发布门禁、case 复盘制度、月度闭环复盘、数据资产盘点。
  • 建设路线图 — 常见路径：①先打通「采集→存储→人工标注→训练」；②自动化质检与预标注；③自动触发与难例挖掘；④自动标注与自动配比；⑤…
  • 面试怎么讲闭环 — 四段式：①背景与规模（多少车/PB/人）；②你负责的环节与难点；③关键决策与取舍（为什么这么做）；④量化结果（周期/成…
  • 组织层面的坑 — ①KPI 割裂：平台看吞吐、算法看指标、没人看上车效果；②数据需求无排期，算法自己写脚本，形成影子系统；③标注与算法不…
  • 系统全景（车云两段） — 车端：传感器（视频/CAN/Lidar）→ 编码解码管理系统（信号采集）→ 编码解码系统（trigger 触发录制）→…
  • 算子（两种含义） — 数据闭环里「算子」指两样东西：①数据侧——加工流水线里可组合、可重跑、幂等的最小执行单元（解析、解码、脱敏、质检、切片…
  • 车端基础全景（四层） — 车端是一个「资源受限 + 安全受限 + 不可现场调试」的计算环境，可以拆成四层：①OS 层（Ubuntu 裁剪、实时内…
在星图上打开这颗星 →