TensorFlow-GPU 2.10.1中ExponentialDecay学习率调度器报错求助

问题背景 #

原本在TensorFlow2.15上运行正常的代码，切换到TensorFlow-GPU2.10.1（搭配Keras 2.10）后，使用ExponentialDecay学习率调度器时触发ValueError，提示无法将该类对象转换为Tensor。报错发生在第一个epoch执行后，设置固定学习率（如0.001）时代码可正常运行。

报错原因 #

TensorFlow 2.10版本中，TensorBoard的标量摘要模块在处理学习率调度器对象时存在兼容性问题：调度器是一个可调用对象而非直接的标量Tensor，TensorBoard尝试直接将其转换为Tensor导致失败。

解决方法 #

方法1：自定义学习率日志回调 #

手动实现学习率的TensorBoard记录，替代TensorBoard的自动处理逻辑：

# 自定义回调类，用于记录学习率
class LRSchedulerLogger(tf.keras.callbacks.Callback):
    def on_epoch_end(self, epoch, logs=None):
        # 获取当前epoch对应的学习率
        current_lr = self.model.optimizer.learning_rate(epoch)
        # 写入TensorBoard
        with tf.summary.create_file_writer(logdir).as_default():
            tf.summary.scalar('learning_rate', data=current_lr, step=epoch)

修改训练代码中的回调列表，添加自定义回调：

my_callbacks = [
    ReduceLROnPlateau(monitor='val_loss', factor=0.9, patience=10, min_lr=0.00001, verbose=1),
    ModelCheckpoint(filepath=model_path, monitor='loss', save_best_only=True, verbose=1),
    EarlyStopping(patience=10, monitor='loss', mode='min', verbose=1, restore_best_weights=True),
    TensorBoard(log_dir=logdir, histogram_freq=1),
    LRSchedulerLogger()  # 添加自定义学习率日志回调
]

方法2：调整TensorBoard配置并禁用自动学习率记录 #

修改TensorBoard的初始化参数，关闭可能触发自动记录学习率的选项：

# 修改TensorBoard配置，关闭直方图频率以避免触发额外变量记录
my_callbacks = [
    ReduceLROnPlateau(monitor='val_loss', factor=0.9, patience=10, min_lr=0.00001, verbose=1),
    ModelCheckpoint(filepath=model_path, monitor='loss', save_best_only=True, verbose=1),
    EarlyStopping(patience=10, monitor='loss', mode='min', verbose=1, restore_best_weights=True),
    TensorBoard(log_dir=logdir, histogram_freq=0, update_freq='epoch')
]

方法3：避免同时使用多个学习率调度器 #

如果同时使用ReduceLROnPlateau和ExponentialDecay，两者可能存在逻辑冲突。可以暂时移除ReduceLROnPlateau回调验证问题，若必须使用，需调整两者参数确保逻辑兼容。

验证修改 #

修改后重新运行训练代码，ExponentialDecay学习率调度器将正常工作，TensorBoard也能正确记录学习率变化。

内容的提问来源于stack exchange，提问作者pepCoder