如何用TensorFlow测试图像分类模型？同图预测结果不一致求助

兄弟，我之前也碰到过一模一样的坑！你训练好的猫狗分类模型，测同一张图结果却不一样，大概率是这几个地方没搞对，咱们一个个捋清楚：

1. 训练/测试模式没区分（最常见的锅） #

如果你用了Dropout或者BatchNormalization这类层，可得注意——它们在训练和测试阶段的行为完全不一样：

• Dropout训练时会随机丢神经元，测试时得全保留；
• BatchNormalization训练时用当前batch的均值方差，测试时要用训练全程攒下来的全局均值方差。

解决办法：
调用模型做预测时，必须明确传training=False参数，举个例子：

# 假设你的模型定义是这样的
def my_cat_dog_model(inputs, training=True):
    x = tf.layers.conv2d(inputs, 32, kernel_size=3, activation='relu')
    x = tf.layers.dropout(x, rate=0.5, training=training)  # 这里的training必须传对
    x = tf.layers.batch_normalization(x, training=training)
    # ... 后面的卷积、全连接层
    return tf.layers.dense(x, 2, activation='softmax')

# 预测的时候一定要指定training=False！
predictions = my_cat_dog_model(test_image_tensor, training=False)

要是忘了传这个参数，模型会默认用训练模式运行，每次预测都有随机dropout，结果自然不一样。

2. 图像预处理前后不一致 #

训练时你对TFRecord里的猫狗图做了预处理，测试时单张图的预处理必须和训练时丝毫不差，差一点都不行：

• 比如训练时把图resize到224×224，测试时是不是也resize到了同样尺寸？
• 训练时加了随机翻转、裁剪（这是训练增强，测试时绝对不能加！）；
• 归一化方式：训练时是image = image / 255.0，还是image = (image - [123.68, 116.779, 103.939]) / std？测试时必须用完全相同的均值和标准差。

举个反例：训练时给图随机水平翻转，测试时也给单张图随机翻转，那每次预测的输入都不一样，结果肯定乱跳。测试时只做确定性预处理就行，别加随机增强。

3. 模型保存加载出问题 #

你有没有确认加载的是训练结束后的最终权重？

• 如果用tf.train.Saver()保存，是不是只存了最后一步的checkpoint？有没有不小心加载了中间训练的某个checkpoint？
• 用SavedModel导出的话，导出时是不是确保模型已经训练完了？
• 加载模型前，有没有误跑了tf.global_variables_initializer()？这会把权重重置成初始随机值，导致每次预测都不一样。

检查小技巧：加载模型后，打印几个关键卷积层的权重值，看看每次加载是不是一样的。如果不一样，那肯定是加载环节出问题了。

4. 还有隐藏的随机性残留 #

如果前面的都排除了，那看看代码里有没有其他随机操作：

• 比如训练时设了随机种子，预测时没设？不过训练完权重是固定的，这个影响不大，但要是有其他随机逻辑（比如随机选模型分支），就固定种子：

  tf.random.set_seed(42)
  import numpy as np
  np.random.seed(42)
  

• 另外，用tf.data加载测试图时，有没有不小心加了shuffle()？测试数据不需要shuffle，虽然单张图影响不大，但还是检查下更稳妥。

按照这个顺序排查，基本就能搞定预测结果不一致的问题啦！

内容的提问来源于stack exchange，提问作者goldfish