Keras中如何对指定特征列单独设置Dropout丢弃概率

你提出的指定特征单独按概率丢弃的需求完全可以在Keras中实现，不需要修改整体模型结构，以下是两种可直接落地的实现方法：

方法1：自定义定向Dropout层（推荐，灵活性最高） #

直接继承Keras的Layer基类实现自定义层，支持指定任意多个特征索引设置丢弃概率，适配你的场景代码如下：

import tensorflow as tf
from tensorflow.keras import layers

class SpecifiedFeatureDropout(tf.keras.layers.Layer):
    def __init__(self, drop_feature_indices, drop_rate=0.2, **kwargs):
        super().__init__(**kwargs)
        # 要丢弃的特征索引列表，比如要丢0索引为3的feature_3就传[3]，如果是1索引的第3个特征就传[2]
        self.drop_feature_indices = drop_feature_indices
        self.drop_rate = drop_rate
        self.feature_num = None

    def build(self, input_shape):
        self.feature_num = input_shape[-1]
        super().build(input_shape)

    def call(self, inputs, training=None):
        # 推理阶段不执行丢弃逻辑
        if not training:
            return inputs
        # 初始化掩码：所有特征默认保留（值为1）
        mask = tf.ones((self.feature_num,), dtype=tf.float32)
        # 对指定特征生成随机丢弃掩码
        for idx in self.drop_feature_indices:
            drop_prob = tf.random.uniform(shape=(), minval=0, maxval=1)
            mask = tf.where(drop_prob < self.drop_rate, mask.tensor_scatter_nd_update([[idx]], [0.]), mask)
        # 保留的特征按丢弃率缩放，保证数值期望和原始输入一致，和标准Dropout逻辑对齐
        return inputs * mask / (1 - self.drop_rate)

替换你原模型中的Dropout层即可：

self.encoder = tf.keras.Sequential()
# 仅对索引为3的特征（对应你说的feature_3）执行20%概率的丢弃
self.encoder.add(SpecifiedFeatureDropout(drop_feature_indices=[3], drop_rate=0.2))
self.encoder.add(layers.Dense(14, activation='relu'))
self.encoder.add(layers.Dense(10, activation='relu'))

该方案后续如果需要对多个特征设置不同丢弃率，只要简单修改自定义层逻辑即可，适配性极强。

方法2：特征拆分拼接实现（无需自定义层） #

如果你不想编写自定义层，也可以用Keras自带的Lambda、Dropout、Concatenate层拆分特征单独处理：

inputs = tf.keras.Input(shape=(14,))
# 拆分特征：把索引为3的feature_3单独拆分出来
feature_others = layers.Lambda(lambda x: tf.concat([x[:, :3], x[:, 4:]], axis=-1))(inputs)
feature_3 = layers.Lambda(lambda x: x[:, 3:4])(inputs)
# 仅对feature_3做Dropout处理
dropped_feature_3 = layers.Dropout(rate=0.2)(feature_3)
# 按原始顺序拼接回14维特征
processed_inputs = layers.Concatenate(axis=-1)([feature_others[:, :3], dropped_feature_3, feature_others[:, 3:]])

# 后续接你原有编码器逻辑
x = layers.Dense(14, activation='relu')(processed_inputs)
x = layers.Dense(10, activation='relu')(x)
self.encoder = tf.keras.Model(inputs=inputs, outputs=x)

效果验证 #

你可以用以下代码确认只有指定特征被丢弃：

# 生成全1的测试输入，batch大小为2
test_input = tf.ones((2,14))
layer = SpecifiedFeatureDropout(drop_feature_indices=[3], drop_rate=0.2)
# 开启训练模式执行
output = layer(test_input, training=True)
# 输出结果中只有第4列（索引3）有可能出现0，其余列的值均为1/(1-0.2)=1.25
print(output.numpy())

内容的提问来源于stack exchange，提问作者Kayk