如何设置早停策略使sparse_validation_accuracy高于基线时停止训练

配置错误点 #

• 监控指标名称不匹配
  早停配置中monitor参数设为accuracy，但稀疏分类任务下TensorFlow输出的训练准确率指标名为sparse_categorical_accuracy，验证集准确率对应指标名为val_sparse_categorical_accuracy，指标名不匹配会导致早停回调无法读取判断依据，无法触发停止规则。
• 阈值设置不符合需求
  目标是准确率超过95%停止，但是配置中的baseline仅设为0.90，同时未显式指定mode='max'，虽然该场景下TensorFlow可自动推断模式，但显式配置可避免逻辑异常。
• 早停默认仅在Epoch结束时触发判断
  日志中显示的0.9546是第73个batch训练结束时的实时batch准确率，默认的EarlyStopping回调不会在batch维度做判断，只会在整个Epoch训练完成、汇总全Epoch的指标后才执行停止逻辑。如果需要batch级停止规则，需要自定义回调触发逻辑。
• 未传入验证集无法计算验证集指标
  需求是监控验证集的稀疏分类准确率，但model.fit方法中未传入validation_data参数，TensorFlow不会计算验证集相关指标，自然无法触发对应停止规则。

回调耗时警告原因 #

该警告是因为restore_best_weights=True参数会触发每次Epoch结束后的权重备份操作，当batch规模较小时，备份权重的耗时会超过单batch的训练耗时，触发警告。可通过调大batch size、或不需要实时备份权重时关闭该参数解决。

修正后参考代码 #

early_stopper = tf.keras.callbacks.EarlyStopping(
    monitor='val_sparse_categorical_accuracy',
    baseline = 0.95,
    patience = 0,
    mode='max',
    restore_best_weights=True
)

# 训练时传入验证集
model.fit(train_dataset.shuffle(len(x_train)).batch(BATCH_SIZE),
          epochs=N_EPOCHS,
          batch_size=BATCH_SIZE,
          callbacks = [early_stopper],
          validation_data=val_dataset.batch(BATCH_SIZE)) # 替换为实际的验证集对象

内容的提问来源于stack exchange，提问作者ℕʘʘḆḽḘ