TensorFlow 2.9.1中如何动态更新tf.Variable形状并保持可训练性？

核心问题 #

你直接用tf.concat得到的是Tensor对象，而非tf.Variable，将其赋值给模型的可训练参数列表会导致后续训练流程识别错误，触发AttributeError。要保持可训练性，必须创建新的tf.Variable来替换原变量。

可行代码实现 #

# 1. 拼接原变量的当前数值与新的初始元素
new_lam_init = tf.concat([
    model.lambdas[0].numpy(),  # 获取训练过程中已更新的原变量数值
    tf.reshape(tf.repeat(1.0, 50), shape=(50, 1))  # 生成和原变量初始方式一致的新元素
], axis=0)

# 2. 创建新的可训练变量，替换模型中的旧变量
model.lambdas[0] = tf.Variable(new_lam_init, dtype=DTYPE)

补充说明 #

• 用.numpy()提取原变量的当前值，能确保拼接后的张量包含训练过程中已经更新的参数，而非仅初始值。
• 新创建的tf.Variable会被TensorFlow自动识别为可训练参数，完全继承原变量的训练特性。

内容的提问来源于stack exchange，提问作者Antonio Ferrer