TensorFlow中批量与全数据集评估准确率差异问题求助

核心错误点 #

• 准确率计算参数顺序颠倒：tf.keras.metrics.Accuracy的update_state方法要求第一个参数是真实标签（y_true），第二个是预测标签（y_pred）。你在全数据集评估时写反了参数顺序：

  # 错误写法
  acc.update_state(test_pred_labels,test_labels)
  # 正确写法
  acc.update_state(test_labels, test_pred_labels)
  

• 未重置指标状态：全数据集评估前没有调用acc.reset_state()，导致指标会累加之前批量评估的结果，最终得到的是两次评估的混合准确率，而非单独的全数据集准确率。
• 数据集对象混淆：批量评估用test_set，全数据集评估用test_data，两者可能不是经过相同预处理的数据集。tf.keras.utils.image_dataset_from_directory返回的数据集会自动应用你指定的image_size、rescale等预处理规则，若test_data是未做相同处理的原始数据，预测结果会完全失真。

修正后的代码示例 #

批量评估正确代码 #

from tensorflow.keras.metrics import Accuracy

acc = Accuracy()
# 重置所有指标状态
acc.reset_state()
re.reset_state()
pre.reset_state()

for batch in test_set.as_numpy_iterator():
    X, y = batch
    y_pred = model.predict(X, verbose=0)  # 关闭冗余日志输出
    y_labels = y_pred.argmax(axis=1)
    acc.update_state(y, y_labels)

print("批量评估准确率:", acc.result().numpy())

全数据集评估正确代码 #

# 必须先重置指标状态，避免累加之前的结果
acc.reset_state()

# 直接用test_set预测，确保和批量评估用同一数据集
test_probs = model.predict(test_set, verbose=0)
# 从test_set中提取所有真实标签
test_labels = []
for batch in test_set.as_numpy_iterator():
    _, y = batch
    test_labels.extend(y)
test_labels = np.array(test_labels)

test_pred_labels = test_probs.argmax(axis=1)
acc.update_state(test_labels, test_pred_labels)  # 参数顺序正确

print("全数据集评估准确率:", acc.result().numpy())

额外建议 #

• 直接使用model.evaluate(test_set)可以一键完成评估，TensorFlow会自动处理批量计算并返回标准指标结果，完全避免手动实现的错误。
• 所有评估流程务必使用同一数据集对象，杜绝因预处理不一致导致的结果偏差。

内容的提问来源于stack exchange，提问作者AWM