TensorFlow模型恢复失败求助：无法加载权重与偏置

我碰到过好几个做TensorFlow项目的朋友都踩过模型恢复的坑，结合常见情况给你列几个最可能的原因：

• 网络结构和训练时不完全一致
  TensorFlow是靠变量名和维度来匹配恢复权重的，哪怕你少定义了一个偏置变量，或者把某层的神经元数量改了，都会导致加载失败。比如训练时你定义了：

  W1 = tf.Variable(tf.random.normal([784, 256]), name='weights1')
  b1 = tf.Variable(tf.zeros([256]), name='bias1')
  

  恢复时必须原封不动地重建这些变量，名字、维度一个都不能改，不然系统找不到对应的权重文件。

• 保存与恢复的API不匹配
  别混用不同的保存/恢复工具！比如你用tf.saved_model.save()存的SavedModel格式，就不能用旧版的tf.train.Saver()来加载；反过来，用Saver生成的.ckpt文件，得用Saver.restore()来恢复。要是搞混了，肯定会报错。

• 恢复的代码顺序出错
  不管是TensorFlow 1.x还是2.x，都得先把完整的网络结构定义好，再去加载权重。比如在1.x里，正确的顺序是：

  # 第一步：先把所有变量/层都定义好
  W1 = tf.Variable(tf.random.normal([784, 256]), name='weights1')
  b1 = tf.Variable(tf.zeros([256]), name='bias1')
  # 第二步：初始化Saver
  saver = tf.train.Saver()
  # 第三步：创建会话并恢复
  with tf.Session() as sess:
      saver.restore(sess, './trained_model.ckpt')
  

  要是你先恢复再定义变量，系统根本不知道要加载什么。

• 模型路径写错了
  这个看起来简单，但真的很多人踩坑。你得确认恢复时的路径和保存时完全一致，包括文件名前缀（比如.ckpt文件的名字）。如果路径不对，TensorFlow找不到文件，自然加载失败。

• Keras API的恢复方式搞错了
  要是你用的是TF 2.x的Keras，分两种情况：

  • 保存了整个模型（结构+权重）：用tf.keras.models.load_model('saved_model_path')直接加载
  • 只保存了权重：得先重建模型结构，再调用model.load_weights('weights_path')

你可以对照这些点检查你的代码，应该能找到问题所在。

内容的提问来源于stack exchange，提问作者Tyler Russell