CNN对所有输入输出相同结果：胸部X光图像分类训练问题

嘿，我之前在搞NIH胸部X光多标签分类的时候，简直跟你碰到了一模一样的坑！模型训不了几下就开始输出全相同的结果，本质就是在拟合数据的全局均值，完全没学到有用的特征。咱们来唠唠可能的原因和能解决问题的办法：

• 类别极度不平衡是核心坑：NIH数据集里，像"无异常"这类样本占比超高，而很多病理类（比如肺结节、气胸）的样本少得可怜。模型算损失的时候，输出全局均值能快速降低整体损失，自然就偷懒不学习了。
• 损失函数没适配多标签+不平衡场景：如果你用的是普通的二元交叉熵（BCE），没给类别加权重，模型肯定会偏向样本多的类别。另外，要是先过sigmoid再算BCE，还可能出现数值不稳定的问题，加剧模型躺平。
• 预训练模型的初始化和训练策略不对：GoogLeNet的全连接层是为ImageNet单标签分类设计的，你直接换成14维sigmoid输出后，初始化如果太随意，很容易让模型一开始就钻进局部最优的死胡同。而且要是上来就全量训练所有层，预训练的特征可能被冲得稀碎。
• 数据预处理没跟上X光的特性：X光图像的灰度分布和ImageNet的RGB图差远了，要是直接用ImageNet的均值方差标准化，模型根本没法提取到有效的病理特征。

先搞定类别不平衡 #

• 给类别加权重：计算每个类别的权重，比如用总样本数 / (类别样本数 * 类别总数)，或者更平滑的1 / log(类别频率 + 1.0)。然后把这个权重传给损失函数，比如PyTorch里的BCEWithLogitsLoss就支持pos_weight参数，专门用来平衡正负样本。
• 重采样+数据增强：对少数类做过采样（比如复制样本），或者对多数类做欠采样，但过采样容易过拟合，一定要配合数据增强——比如给X光加随机翻转、小角度旋转、亮度对比度微调、随机裁剪，既能增加样本多样性，又能让模型学到更鲁棒的特征。

换个更靠谱的损失函数 #

• 优先用BCEWithLogitsLoss：它把sigmoid激活和损失计算合并在一起，数值稳定性更好，不会出现sigmoid饱和导致的梯度消失问题，比你手动加sigmoid再算BCE强多了。
• 试试Focal Loss：这玩意儿就是专门治类别不平衡的，它会降低那些容易分类的样本（比如大量的无异常样本）的权重，逼着模型去关注难分类的病理样本。公式里的gamma一般设2，alpha就是咱们刚才算的类别权重，效果立竿见影。

调整模型的训练和初始化 #

• 分层微调预训练模型：别上来就把GoogLeNet所有层都解冻训练。先冻结前面的卷积块，只训练你新加的全连接层，等损失稳定了，再逐步解冻后面的2-3个卷积块，用很小的学习率（比如原来的1/10）微调。这样能保留预训练的通用特征，又能适配X光的任务。
• 好好初始化新的全连接层：别用默认的随机初始化，用He初始化或者Xavier初始化，让权重的分布更合理，模型更容易收敛到有用的解。另外，在全连接层前面加个Dropout层（比如0.5的概率），能有效防止过拟合，避免模型过早躺平。

优化数据预处理 #

• 用X光专属的标准化：别用ImageNet的均值方差，自己计算NIH数据集的灰度均值和方差，然后做标准化；或者简单点，把图像归一化到[0,1]之后减去全局均值，这样模型能更好地捕捉X光里的病理特征。

别只盯着整体损失看！要监控每个类别的准确率、召回率和F1分数，比如画每个类别的混淆矩阵。整体损失下降可能只是模型在拟合多数类，只有看每个类别的指标，才能真正知道模型有没有学到东西。

内容的提问来源于stack exchange，提问作者Chris K