LoRA/QLoRA 高效微调实践：单卡训练大模型
LoRA 原理：低秩分解 全量微调更新所有参数：ΔW 与 W 同尺寸。LoRA 的核心洞察：微调时的权重更新是低秩的——可以用两个小矩阵的乘积近似。 全量微调: W' = W + ΔW 参数量 d×k LoRA: W' = W + B×A 参数量 r×(d+k), r << min(d,k) A: 高斯初始化, B: 零初始化 7B 模型的 4096×4096 权重矩阵：全量微调 16.7M 参数，LoRA(r=8) 仅 65K 参数，减少 99.6%。 超参数选择 参数 推荐值 影响 r (rank) 8-64 越大表达能力越强 alpha 通常等于r 控制更新幅度 target_modules q_proj,v_proj / 全线性层 影响效果和显存 dropout 0.05-0.1 防止过拟合 r 的经验法则：r=8 简单任务（格式调整）；r=16 中等任务（领域适配）；r=32 复杂任务（推理能力）。 QLoRA：再省显存 QLoRA = Quantization + LoRA：基础模型量化到 4-bit 存储，仅在 LoRA 参数上用 16-bit 训练。 ...