复现MediaPipe手部关键点模型训练过拟合，训练降验证不动如何解决

数据层面调整 #

• 校验数据集规模与标注质量：MediaPipe原生训练数据集为十万级，覆盖不同肤色、姿态、光照、遮挡场景，若自定义数据集规模低于5万，优先补充样本，重点添加遮挡、侧方位、小尺度、复杂光照下的手部样本。同步做标注交叉校验，确保归一化坐标标注误差低于0.001，避免标注噪声导致过拟合。
• 强化数据增强策略：补全原生训练所用的增强逻辑，包括随机旋转±30°、随机缩放0.8-1.5倍、随机水平翻转、随机高斯噪声、随机局部遮挡、颜色抖动（亮度/对比度/饱和度±20%）、随机仿射变换，额外添加手部关键点特有的增强：随机截断部分手指区域、添加半透明手部虚影。

模型层面调整 #

• 增加正则化约束：所有卷积层添加L2正则化，系数设置在1e-4_{1e-5*区间；在全连接输出层前加入Dropout层，丢弃率设置为*0.2}0.3，不要使用过高丢弃率避免关键点坐标学习不充分。
• 修正归一化层配置：若你使用了批量归一化（BN），将滑动平均动量调整为0.99，避免训练与推理阶段的特征分布不一致；如果batch size无法提升，可替换为层归一化（LN）规避小批次下BN统计不准的问题。

训练策略调整 #

• 优化学习率配置：当前初始学习率1e-3对于关键点检测任务偏高，下调初始学习率到1e-4，decay_steps调整为每2个训练 epoch 触发一次，decay_rate调整为0.95；同时添加warmup策略，前500步学习率从1e-6线性上升到目标初始学习率，避免模型前期过快拟合训练集噪声。
• 启用早停机制：监控验证集损失，当验证损失连续10个epoch没有下降时直接终止训练，取历史验证损失最低的权重作为最终结果，避免过度训练。
• 引入迁移训练逻辑：可通过tflite转tensorflow的工具导出官方tflite模型的权重，加载到你搭建的同结构模型中做迁移训练，先冻结前10层权重仅训练后段网络，训练10个epoch后再放开全网络微调，能大幅降低过拟合风险。

内容的提问来源于stack exchange，提问作者Swapnil Gautam