Keras中MobileNet backbone的KFold交叉验证模型未重置问题

1. 是否因Keras内部处理机制导致？ #

是。在TensorFlow 2.18.0 + Keras 3.9.2的环境中，模型、骨干网络（如MobileNetV2）或优化器的实例如果在折间复用，Keras不会自动重置其权重或内部训练状态。此外，TensorFlow的全局变量追踪机制如果未被清理，新创建的模型可能会意外复用之前折的变量引用，导致权重继承。

如果你的模型构建逻辑是在KFold循环外完成的（比如提前定义了MobileNetV2骨干并复用），或者优化器实例被多次使用，就会出现这种首折正常、后续折复用权重的情况。

2. 折间是否需额外步骤清除/重置模型？ #

需要，必须执行以下关键步骤确保折间完全隔离：

• 清除全局状态：每个折训练前调用keras.backend.clear_session()，彻底清理TensorFlow/Keras的后台会话、变量和图层缓存。
• 重新构建完整模型：在每个折的循环内部调用模型构建函数，确保每次都生成全新的模型和骨干网络实例，绝对不能在循环外定义模型后复用。
• 重置优化器：每次训练都创建新的优化器实例（比如每次都调用keras.optimizers.Adam(...)），避免复用带有前一折动量、学习率调度状态的优化器。
• 重新初始化骨干权重：在模型构建函数内部加载MobileNetV2，确保每次折都使用初始权重（如weights='imagenet'或weights=None），而非复用已训练的骨干实例。

正确的循环示例代码 #

import keras
from sklearn.model_selection import KFold

def build_model(input_shape, num_classes):
    # 每次调用都重新加载MobileNetV2，保证权重初始化
    base_model = keras.applications.MobileNetV2(
        input_shape=input_shape,
        include_top=False,
        weights='imagenet'
    )
    base_model.trainable = False  # 默认冻结骨干
    
    # 构建完整模型
    inputs = keras.Input(shape=input_shape)
    x = keras.applications.mobilenet_v2.preprocess_input(inputs)
    x = base_model(x, training=False)
    x = keras.layers.GlobalAveragePooling2D()(x)
    outputs = keras.layers.Dense(num_classes, activation='softmax')(x)
    model = keras.Model(inputs, outputs)
    
    # 编译时创建新的优化器
    model.compile(
        optimizer=keras.optimizers.Adam(learning_rate=1e-3),
        loss='sparse_categorical_crossentropy',
        metrics=['accuracy']
    )
    return model

# KFold循环
kf = KFold(n_splits=5, shuffle=True, random_state=42)
for fold_idx, (train_indices, val_indices) in enumerate(kf.split(train_data)):
    print(f"===== 训练第 {fold_idx+1} 折 =====")
    # 1. 清除全局状态
    keras.backend.clear_session()
    
    # 2. 创建全新模型
    model = build_model(input_shape=(224, 224, 3), num_classes=10)
    
    # 3. 冻结阶段训练
    history_frozen = model.fit(
        train_data[train_indices], train_labels[train_indices],
        epochs=10,
        validation_data=(train_data[val_indices], train_labels[val_indices])
    )
    
    # 4. 解冻骨干并重新编译（使用新的优化器）
    model.get_layer('mobilenetv2_1.00_224').trainable = True
    model.compile(
        optimizer=keras.optimizers.Adam(learning_rate=1e-5),  # 新优化器实例
        loss='sparse_categorical_crossentropy',
        metrics=['accuracy']
    )
    
    # 5. 解冻阶段训练
    history_unfrozen = model.fit(
        train_data[train_indices], train_labels[train_indices],
        epochs=20,
        initial_epoch=history_frozen.epoch[-1],
        validation_data=(train_data[val_indices], train_labels[val_indices])
    )

3. 是否因训练中解冻MobileNet backbone引发此问题？ #

解冻骨干本身不是问题根源，但解冻的实现方式可能导致权重复用。如果你的MobileNetV2骨干是在KFold循环外加载的单实例，第一次解冻训练后其权重已被更新，后续折复用该实例时会直接继承这些已训练的权重，而非重新初始化。

解决方式是确保每个折都加载全新的MobileNetV2实例（如在build_model函数内部加载），再执行解冻操作，这样每个折的骨干权重都是初始状态，不会受前一折训练影响。

内容的提问来源于stack exchange，提问作者Darshil Pungalia