tf.GradientTape gradient()返回None，Keras模型训练梯度异常排查

核心错误原因 #

你手动创建的trainable_params是全新的TensorFlow变量，和Keras模型内部的权重没有任何关联。当调用model(X)时，模型使用的是自身原始的权重张量，而非你创建的trainable_params，所以GradientTape无法追踪到损失值和这些新变量的依赖关系，最终返回全为None的梯度。

修正后的训练函数 #

不需要手动创建新的变量集合，直接使用模型自带的trainable_variables属性即可（这才是模型实际使用的可训练权重），同时补全权重更新逻辑：

def train(model, X, epoch = 500, lr = 1e-3):
    loss_array = []
    optim = tf.keras.optimizers.Adam(learning_rate = lr)
    for i in range(epoch):
        with tf.GradientTape() as g:
            # 显式设置training=True，确保层处于训练模式（如Dropout/BatchNorm）
            u_pred = model(X, training=True)
            # 让标签形状和模型输出匹配，避免维度不兼容问题
            u_true = tf.zeros_like(u_pred)
            loss_val = loss(u_pred, u_true)
        
        # 计算损失对模型可训练变量的梯度
        grad = g.gradient(loss_val, model.trainable_variables)
        # 用优化器更新权重
        optim.apply_gradients(zip(grad, model.trainable_variables))
        
        loss_array.append(loss_val.numpy())
        # 可选：打印训练进度
        if (i+1) % 50 == 0:
            print(f"Epoch {i+1}, Loss: {loss_val.numpy():.4f}")
    return loss_array

额外注意事项 #

• 形状匹配：原代码中tf.zeros_like(X)可能和模型输出model(X)的形状不匹配（比如模型最终输出为1维，而输入X是更高维度），改成tf.zeros_like(u_pred)可保证形状一致，避免损失计算报错。
• 自动追踪变量：GradientTape默认会自动追踪tf.Variable类型的可训练变量，无需额外调用g.watch()。
• 训练模式开关：调用模型时加上training=True，确保模型中的特殊层（如Dropout、BatchNormalization）使用训练时的逻辑，避免影响训练效果。

内容的提问来源于stack exchange，提问作者Tim Brian