基于CNN与TFLearn结合FER2013、MPI数据集的情绪检测问题咨询

问题解答 #

1. 解决当前过拟合问题的方案 #

你当前的过拟合主要来自三方面：模型参数冗余、数据层面分布偏移、正则化强度不足，对应方案如下：

• 首先精简模型结构：你当前使用的5次5×5卷积+5×5池化组合完全不适合48×48的输入尺寸，计算可知经过2次5×5池化后特征图尺寸已经缩小到1×1，后续3层卷积完全是在无空间信息的特征上做无效计算，极大增加了模型冗余参数，直接删掉后3层卷积+池化层即可。
• 补充正则化手段：除了已有的Dropout，在所有卷积层、全连接层添加L2权重衰减，同时引入标签平滑降低模型对预测标签的置信度，进一步抑制过拟合。
• 优化数据分布：解决困惑类样本和其他类样本的背景分布不一致问题，避免模型学习到“黑背景=困惑”的 shortcut 特征。

2. 需要调整的超参数及参考范围 #

• 学习率：当前固定0.001的设置不合理，调整范围为1e-4 ~ 1e-2，同步添加学习率衰减策略，比如每训练30轮学习率乘以0.5，或者采用余弦退火策略。
• 卷积&池化核尺寸：把全部5×5卷积核替换为3×3，5×5池化核替换为2×2（步长设为2），在保证感受野的前提下减少参数冗余。
• Dropout概率：调整范围为0.3 ~ 0.7，若过拟合仍然严重则提高概率，出现欠拟合则降低概率。
• L2正则化系数：调整范围为1e-5 ~ 1e-3，优先尝试1e-4的取值。
• 优化器参数：如果继续用SGD可添加0.9~0.95的动量，切换Adam的话建议设置权重衰减为1e-4。
• Batch size：调整范围为16 ~ 128，根据显存容量选择尽量大的取值，提升训练稳定性。

3. 是否需要扩容数据集到7000张以上 #

有必要。当前每类仅3k左右的训练样本对于表情分类任务来说偏紧，尤其是困惑类样本来自跨数据集，样本量提升能有效增强模型泛化能力。扩容时要注意两点：一是尽量保持类别平衡，二是优先补充自然场景下的困惑类样本，减少实验室黑背景样本的占比，从根源缓解分布偏移问题。

4. 是否需要给困惑类图片添加随机灰度背景 #

非常有必要。你观察到的背景分布差异是当前模型效果的核心瓶颈之一，当前模型很可能没有学习到困惑的表情特征，只是靠识别黑背景判断困惑类别，这会导致真实场景下的效果暴跌。你可以把困惑类样本的人脸区域抠出，随机叠加FER数据集中的真实背景，或者生成随机灰度、带噪声的模拟背景，让困惑类的背景分布和其他类别对齐，能直接带来明显的泛化性提升。

5. 进一步提升模型准确率的方案 #

• 预处理优化：在现有缩放灰度化的基础上添加人脸对齐步骤，将所有样本的人眼、鼻子关键点对齐到固定位置，降低姿态、偏移带来的识别误差。
• 数据增强：给所有类别添加随机水平翻转、±15度内随机旋转、随机裁剪、随机亮度/对比度调整的增强策略，在不增加数据采集成本的前提下扩充训练分布。
• 迁移学习：不要从头训练网络，优先使用在大规模人脸数据集、完整FER2013数据集上预训练的轻量模型（比如MobileNetV2、ResNet18）做微调，能直接带来5%以上的准确率提升。
• 模型集成：调优得到多个不同结构、不同初始化的模型后，对输出结果做加权融合，还能再提升3%左右的准确率。

内容的提问来源于stack exchange，提问作者Kwick