TensorFlow Saver能否自适应恢复模型？修改模型后恢复报错如何解决？

我完全理解你的困扰——手动维护var_list来匹配旧checkpoint的变量确实太繁琐，尤其是当模型里有大量权重、偏置，还有优化器、批归一化的滑动平均变量时。下面给你几个自动筛选恢复变量的实用方法，不用手动一个个列：

方法1：自动匹配checkpoint与当前模型的变量名 #

先获取旧checkpoint里所有变量的名称，再和当前模型的变量做匹配，自动生成需要恢复的var_list：

import tensorflow as tf

# 1. 获取checkpoint中的所有变量名（去掉末尾的":0"后缀）
ckpt_path = "path/to/your/checkpoint"
ckpt_var_names = [name for name, _ in tf.train.list_variables(ckpt_path)]

# 2. 筛选当前模型中存在于checkpoint的变量
current_vars = tf.global_variables()
var_list = []
for var in current_vars:
    # 变量名格式通常是"变量名:0"，所以取前面的部分匹配
    var_base_name = var.name.split(':')[0]
    if var_base_name in ckpt_var_names:
        var_list.append(var)

# 3. 创建Saver并恢复
saver = tf.train.Saver(var_list=var_list)
with tf.Session() as sess:
    saver.restore(sess, ckpt_path)
    print(f"成功恢复{len(var_list)}个匹配的变量")

这个方法会自动忽略你新增的层或者修改后新增的变量，只恢复旧checkpoint里存在的内容。

方法2：通过变量作用域（Scope）或前缀筛选 #

如果你的旧模型变量都在特定的作用域下（比如当初定义时用了with tf.variable_scope("old_model"):），可以直接通过作用域筛选变量：

# 筛选所有在"old_model"作用域下的变量
var_list = tf.get_collection(tf.GraphKeys.GLOBAL_VARIABLES, scope="old_model/")

# 或者按变量名前缀筛选，比如只恢复权重和偏置
var_list = [var for var in tf.global_variables() 
            if var.name.startswith("weights/") or var.name.startswith("biases/")]

saver = tf.train.Saver(var_list=var_list)
# 恢复操作同上

这种方法适合你清楚旧模型变量的命名规则的情况，比手动列变量高效得多。

方法3：使用框架工具快速排除不需要恢复的变量 #

TensorFlow提供了tf.contrib.framework.get_variables_to_restore工具，可以直接排除你新增的变量，不用手动匹配：

from tensorflow.contrib.framework import get_variables_to_restore

# 排除所有名字包含"new_layer"的变量（替换成你新增层的标识）
vars_to_restore = get_variables_to_restore(exclude=["new_layer/*", "batch_norm_new/*"])

saver = tf.train.Saver(vars_to_restore)
with tf.Session() as sess:
    saver.restore(sess, ckpt_path)

这个方法特别适合你新增了几个层，只需要排除这些新层变量的场景。

处理"部分层不可训练"的需求 #

如果你设置了部分层不可训练，恢复模型后可以直接修改变量的trainable属性，不用在恢复前做额外操作：

# 恢复模型后，将"fc1"层的所有变量设为不可训练
for var in tf.get_collection(tf.GraphKeys.TRAINABLE_VARIABLES, scope="fc1/"):
    var.trainable = False

# 后续定义优化器时，只会更新可训练的变量
optimizer = tf.train.AdamOptimizer(learning_rate=1e-3)
train_op = optimizer.minimize(loss, var_list=tf.trainable_variables())

为什么会出现"键未找到"的错误？ #

本质原因是修改后的模型新增了旧checkpoint里没有的变量（比如新层的权重、偏置），或者某些变量的命名/结构发生了变化。默认情况下tf.train.Saver会尝试恢复所有全局变量，一旦遇到checkpoint里没有的键就会报错。通过上面的方法筛选出需要恢复的变量，就能避免这个问题。

内容的提问来源于stack exchange，提问作者Jermmy