知识点 › 模型训练

微调与持续学习

Fine-tuning / Continual

模型训练Lv.2

定义

在新数据上继续训练:全量微调、LoRA、增量学习。难点是「灾难性遗忘」——新场景学会了,老场景退化了。需要回放旧数据、正则约束、或分场景专家模型。

关键要点

  • 混合新旧数据(replay)是最稳的防遗忘手段,代价是训练成本
  • 要建「遗忘监控集」:每次迭代都跑老场景回归
  • 新开城/新车型常先做「增量微调」快速上线,再合入主模型

面试怎么答

讲「replay + 遗忘监控集」,这是量产迭代的真实痛点。

相关知识

  • 回归门禁 — 每次模型/代码变更自动跑固定回归集,指标退化就阻止发布。是高频迭代的安全网:没有门禁,团队会陷入「修一个坏三个」的循环。
  • 数据闭环 — 把「真实世界产生的数据」持续转化为「车端模型能力」的工程体系:车端采集 → 回传 → 存储治理 → 场景挖掘与标注 →…
在星图上打开这颗星 →