Fine-tuning
也称 Finetuning
从已经训练好的模型出发，继续用特定任务或领域的数据训练，使模型更适应目标用途，而不必从随机参数重新开始。
如何理解
微调沿用预训练模型已有的参数，再通过新数据和训练目标调整模型。它利用已有能力作为起点，通常比从头训练需要更少数据和计算；具体能改善什么，取决于样本与目标任务的关系。
判断微调是否有效，需要在没有用于训练的数据上检查表现。训练过程中的损失下降只是一个信号，不能代替实际任务验证；准备数据、划分评估集和比较结果，都是理解微调效果的关键。
容易混淆的地方
把例子放进提示词通常不改变模型参数，因此不是微调。接入检索库也不必然涉及微调；RAG 与微调可以同时出现在一个系统中。