使用Unsloth微调Qwen模型时训练损失未下降的求助

开发者阿泽

2026-6-11

Unsloth微调Qwen模型训练损失不下降排查方案

可训练参数占比过低
仅0.93%参数可训练，可能不足以让模型捕捉数据模式。检查LoRA配置：尝试增大r值（如从8调整到16/32），或扩展target_modules范围（覆盖Qwen的attn_q、attn_k、attn_v、attn_o等更多注意力模块），提升可训练参数占比。
学习率设置不合理
小参数微调时，学习率过高或过低都会导致损失震荡。LoRA微调Qwen的推荐学习率范围为1e-4至5e-4，可先尝试2e-4，同时搭配线性学习率调度器（linear scheduler），让学习率逐步衰减，减少后期波动。
数据质量与格式问题
验证训练数据是否符合Qwen指令微调的模板要求（如正确使用<|im_start|>user...<|im_end|><|im_start|>assistant...<|im_end|>结构）。抽样检查100条左右样本，排查是否存在重复、无意义或标签错误的内容，这类数据会干扰模型学习。
Batch Size与梯度累积优化
单设备Batch Size=48，若样本平均token长度过长（如超过512），实际有效批量不足。可尝试将序列截断至1024以内，或开启gradient_accumulation_steps（如设为2），等效增大批量，让梯度更新更稳定。
依赖版本兼容性问题
当前使用torch==2.8.0和transformers==5.5.0，Unsloth通常推荐transformers 4.x系列（如4.40+），5.x版本可能存在兼容问题。建议降级transformers到4.44.2，torch切换到2.3.0或2.4.0，匹配Unsloth官方推荐环境。
训练时长不足
仅设置1个Epoch，当前仅完成约20%的训练步数，可能未到收敛阶段。先完成整个Epoch训练，观察损失变化；若仍无下降，尝试增加到2-3个Epoch，给模型足够学习周期。
损失计算逻辑验证
确认是否仅计算assistant部分的token损失（指令微调需mask掉user部分的损失）。检查训练配置中损失掩码的实现，避免无效损失计算导致模型学习方向偏差。