TensorFlow模型恢复前如何查看变量？实操代码与输出

首先要明确：要成功恢复模型并计算指标，核心是让当前定义的模型变量结构、命名和训练时完全匹配——你已经用inspect_checkpoint工具看到了checkpoint里的变量名（比如biases/b1），接下来按以下步骤操作即可：

1. 复刻训练时的网络结构 #

必须保证你现在定义的模型和训练阶段的结构完全一致，包括层的数量、变量的命名（包括variable_scope的名字）。举个例子，假设你训练时的网络是这么定义的：

import tensorflow as tf

# 训练阶段的网络定义示例（TF 1.x）
def build_model(inputs, input_dim, hidden_dim, num_classes):
    with tf.variable_scope('weights'):
        w1 = tf.get_variable('w1', shape=[input_dim, hidden_dim])
        w2 = tf.get_variable('w2', shape=[hidden_dim, num_classes])
    with tf.variable_scope('biases'):
        b1 = tf.get_variable('b1', shape=[hidden_dim])
        b2 = tf.get_variable('b2', shape=[num_classes])
    
    hidden_layer = tf.matmul(inputs, w1) + b1
    hidden_layer = tf.nn.relu(hidden_layer)
    logits = tf.matmul(hidden_layer, w2) + b2
    return logits

那恢复模型时，你必须用完全相同的函数（或者完全一致的变量定义），这样变量名才能和checkpoint里的tensor_name对应上。

2. 加载模型并计算开发集指标 #

基于复刻的网络结构，我们用tf.train.Saver来加载checkpoint，然后在会话中计算损失和准确率：

TF 1.x 版本代码示例 #

# 准备开发集数据（替换成你自己的dev集输入和标签）
x_dev = ...  # 形状: [batch_size, input_dim]
y_dev = ...  # 形状: [batch_size, num_classes]（one-hot编码）

# 构建模型
input_dim = 784  # 替换成你的输入维度
hidden_dim = 256
num_classes = 10
logits = build_model(x_dev, input_dim, hidden_dim, num_classes)

# 定义损失函数和准确率计算
cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits_v2(logits=logits, labels=y_dev))
correct_predictions = tf.equal(tf.argmax(logits, axis=1), tf.argmax(y_dev, axis=1))
accuracy = tf.reduce_mean(tf.cast(correct_predictions, tf.float32))

# 创建Saver对象（默认加载所有可训练变量）
saver = tf.train.Saver()

# 启动会话恢复模型并计算指标
with tf.Session() as sess:
    # 从指定路径恢复checkpoint
    saver.restore(sess, "./trained_models/my_nn_model.ckpt")
    print("模型已成功恢复！")
    
    # 运行计算图得到损失和准确率
    dev_cost, dev_acc = sess.run([cost, accuracy])
    print(f"开发集损失值: {dev_cost:.4f}")
    print(f"开发集准确率: {dev_acc:.4f}")

特殊情况处理：变量部分匹配 #

如果你的checkpoint里有一些训练时的临时变量（比如优化器的状态），而你现在不需要加载这些，可以手动指定要恢复的变量列表：

# 手动指定要加载的变量，对应checkpoint里的tensor_name
vars_to_restore = {
    'weights/w1': tf.get_default_graph().get_tensor_by_name('weights/w1:0'),
    'weights/w2': tf.get_default_graph().get_tensor_by_name('weights/w2:0'),
    'biases/b1': tf.get_default_graph().get_tensor_by_name('biases/b1:0'),
    'biases/b2': tf.get_default_graph().get_tensor_by_name('biases/b2:0'),
}
saver = tf.train.Saver(vars_to_restore)

TF 2.x 版本适配 #

如果你用的是TensorFlow 2.x，API会更简洁（假设你用Keras构建模型）：

import tensorflow as tf

# 1. 复刻模型结构
class MyModel(tf.keras.Model):
    def __init__(self, input_dim, hidden_dim, num_classes):
        super().__init__()
        self.w1 = tf.Variable(tf.random.normal([input_dim, hidden_dim]), name='weights/w1')
        self.b1 = tf.Variable(tf.zeros([hidden_dim]), name='biases/b1')
        self.w2 = tf.Variable(tf.random.normal([hidden_dim, num_classes]), name='weights/w2')
        self.b2 = tf.Variable(tf.zeros([num_classes]), name='biases/b2')
    
    def call(self, inputs):
        hidden = tf.matmul(inputs, self.w1) + self.b1
        hidden = tf.nn.relu(hidden)
        return tf.matmul(hidden, self.w2) + self.b2

# 2. 加载模型
model = MyModel(input_dim=784, hidden_dim=256, num_classes=10)
checkpoint = tf.train.Checkpoint(model=model)
# 恢复checkpoint，expect_partial()忽略不需要的变量
checkpoint.restore("./trained_models/my_nn_model.ckpt").expect_partial()

# 3. 计算开发集指标
# 准备dev集数据
x_dev = ...
y_dev = ...

# 定义损失函数
loss_fn = tf.keras.losses.CategoricalCrossentropy(from_logits=True)
# 计算损失
dev_loss = loss_fn(y_dev, model(x_dev)).numpy()
# 计算准确率
predictions = tf.argmax(model(x_dev), axis=1)
labels = tf.argmax(y_dev, axis=1)
dev_acc = tf.reduce_mean(tf.cast(tf.equal(predictions, labels), tf.float32)).numpy()

print(f"开发集损失值: {dev_loss:.4f}")
print(f"开发集准确率: {dev_acc:.4f}")

3. 常见问题排查 #

• NotFoundError：这是最常见的问题，说明当前定义的变量名和checkpoint里的不匹配。再用chkp.print_tensors_in_checkpoint_file核对变量名，确保variable_scope和变量名完全一致（注意TensorFlow的变量名后面会带:0，但checkpoint里的tensor_name不带，所以代码里用get_variable定义时的名字要和checkpoint里的一致）。
• 形状不匹配：如果提示形状错误，说明你现在定义的变量形状和训练时不一样，检查网络结构的输入维度、隐藏层维度等是否和训练时一致。

内容的提问来源于stack exchange，提问作者edn