知识点 › 模型训练
微调与持续学习
Fine-tuning / Continual
定义
在新数据上继续训练:全量微调、LoRA、增量学习。难点是「灾难性遗忘」——新场景学会了,老场景退化了。需要回放旧数据、正则约束、或分场景专家模型。
关键要点
- 混合新旧数据(replay)是最稳的防遗忘手段,代价是训练成本
- 要建「遗忘监控集」:每次迭代都跑老场景回归
- 新开城/新车型常先做「增量微调」快速上线,再合入主模型
面试怎么答
讲「replay + 遗忘监控集」,这是量产迭代的真实痛点。
知识点 › 模型训练
Fine-tuning / Continual
在新数据上继续训练:全量微调、LoRA、增量学习。难点是「灾难性遗忘」——新场景学会了,老场景退化了。需要回放旧数据、正则约束、或分场景专家模型。