LoRA
LoRA（Low-Rank Adaptation）冻结原模型权重，用额外的低秩矩阵学习权重更新，以较少的可训练参数完成适配。
如何理解
LoRA 把选定权重矩阵的更新表示为两个较小矩阵的乘积。训练时主要更新这些新增参数，原模型权重保持冻结，降低参数更新与优化器状态的开销。
适配器仍依赖对应的基础模型。选择哪些层、使用多大的秩以及训练数据，都影响实际效果；减少可训练参数不代表所有训练开销都按同一比例减少。
容易混淆的地方
LoRA 是参数适配方法，量化是数值表示方法，两者可以组合。LoRA 文件通常不能独立替代完整模型。