如何为Keras/TensorFlow 2下的U_Net医学图像分割模型添加Dropout层

推荐添加位置 #

Dropout的核心作用是缓解过拟合，添加时不能破坏U-Net的特征传递逻辑，尤其是跳跃连接的底层特征通路：

• 下采样路径的卷积块末尾、最大池化层之前：每个双卷积+批归一化操作结束后添加，Dropout概率建议设置为0.1~0.3，医学图像数据量普遍偏小，概率过高容易丢失病灶、组织边缘等关键特征。
• 下采样与上采样之间的瓶颈层：该位置压缩了全图最高维度的抽象特征，过拟合风险最高，Dropout概率可以适当提升到0.3~0.5。
• 上采样路径的卷积块末尾、上采样操作之前：注意不要在跳跃连接的张量拼接操作之后加Dropout，避免破坏从下采样路径传递过来的细粒度纹理、边缘特征。

禁用位置 #

不要在输入层之后直接加Dropout，会直接破坏原始图像的有效信息，导致分割精度大幅下降。

代码示例 #

你可以直接封装带Dropout的U-Net卷积块调用，示例如下：

# Keras/TensorFlow 2 带Dropout的U-Net下采样卷积块实现
from tensorflow.keras.layers import Conv2D, BatchNormalization, Dropout, MaxPooling2D

def down_conv_block(inputs, num_filters, dropout_rate=0.2):
    x = Conv2D(num_filters, 3, padding="same", activation="relu")(inputs)
    x = BatchNormalization()(x)
    x = Conv2D(num_filters, 3, padding="same", activation="relu")(x)
    x = BatchNormalization()(x)
    # 卷积块末尾加Dropout
    x = Dropout(dropout_rate)(x)
    p = MaxPooling2D((2, 2))(x)
    return x, p

注意事项 #

• 常规推理场景下不需要手动关闭Dropout，TensorFlow 2的model.predict()接口会自动将Dropout层切换为推理模式
• 如果你要通过蒙特卡洛Dropout做分割结果的不确定性评估，推理阶段需要保持Dropout开启，此时建议仅在瓶颈层和下采样路径加Dropout，控制输出方差
• 如果训练过程中出现欠拟合，直接降低Dropout概率或者暂时关闭部分层的Dropout即可

内容的提问来源于stack exchange，提问作者Emy Ibrahim