知识点 › 模型训练
预训练与自监督
Pretraining
定义
在大规模无标注数据上预训练（MAE、对比学习、掩码点云建模、视频预测），再下游微调。智驾里可显著降低对标注的依赖，尤其适合「无标注的车队数据」。
关键要点
- 自监督是把「海量未标注数据」变成资产的唯一低成本路径
- 预训练数据要与下游分布接近，否则收益有限
- 预训练模型可作为「特征提取器」服务于检索与聚类
面试怎么答
把预训练和「无标注数据资产化」联系起来讲。
知识点 › 模型训练
Pretraining
在大规模无标注数据上预训练（MAE、对比学习、掩码点云建模、视频预测），再下游微调。智驾里可显著降低对标注的依赖，尤其适合「无标注的车队数据」。