TensorFlow目标检测API量化感知训练损失不收敛求优化方案

配置调整建议 #

• 调整量化延迟参数：当前配置中quantization.delay设为48000，而总训练步长仅为50000，意味着仅最后2000步才开启量化感知训练，没有足够的适配时间。建议将该参数改为5000~10000，给量化相关参数留出充足的微调空间。
• 下调初始学习率：当前初始学习率0.005对于预训练模型微调来说过高，量化感知训练的学习率通常要比普通浮点微调更低，建议将初始学习率调整到1e-4_{5e-4区间，同时把`decay_steps`调整为2000}5000，避免权重频繁抖动无法收敛。
• 适配锚框配置：当前使用的是COCO数据集默认的锚框参数，若你检测的目标（火焰）尺寸、长宽比分布和COCO数据集差异较大，建议先统计自有数据集的目标尺度和长宽比，调整anchor_generator下的min_scale、max_scale、aspect_ratios参数，锚框不匹配会直接导致损失居高不下。
• 调整训练步长：总训练步长50000对于千级规模的小数据集来说偏长，容易出现过拟合或者损失震荡，建议先降到20000~30000步观察收敛情况。
• 扩充数据增强策略：目前仅配置了随机水平翻转和随机裁剪两种增强方式，小数据集建议新增随机亮度调整、随机对比度调整、随机高斯模糊等策略，降低过拟合风险。

数据集相关说明 #

1000张图像（训练集800张）对于单类目标检测任务来说，如果目标特征明显、标注质量合格，是足够支撑模型收敛的。如果存在标注漏标、错标，或是目标尺度变化极大、背景极其复杂的情况，才会导致损失无法下降。你可以先抽查20~30张训练集的标注结果，确认没有标注错误后再考虑扩充数据集，扩充时优先补充小目标、极端光照、复杂背景的样本。

其他排查方向 #

• 确认TFRecord生成流程正确，标签索引和label_map.pbtxt中的定义完全对应，没有出现标签偏移的问题。
• 区分当前居高不下的损失是分类损失还是定位损失，针对性调整对应损失的权重或是模块参数。
• GTX780的算力为3.0，TensorFlow 1.15对低算力GPU的量化算子支持可能存在兼容问题，可以先删除graph_rewriter段关闭量化训练，先训练普通浮点模型确认基础流程可以正常收敛后，再开启量化感知训练，排除算子兼容问题。

内容的提问来源于stack exchange，提问作者Yassa Fareed