TensorFlow修改模型最后层后加载出现形状不匹配错误排查

嘿，这个错误我太熟悉了！本质问题就是你修改了模型最后一层的输出维度，但加载的旧模型权重和新模型的层形状完全不匹配——原来二分类任务的最后一层权重形状是[50,2]，现在改成回归任务后最后一层权重变成了[50,1]，TensorFlow自然没法把形状不一样的权重赋值进去。

下面给你几个实用的解决方案：

如果你只是想复用前面层已经训练好的特征提取能力，最后一层打算重新训练，那可以在加载权重时用skip_mismatch参数跳过形状不匹配的层：

# 先定义好你的回归模型结构，最后一层是Dense(1)
new_reg_model = build_your_regression_model()

# 加载旧模型权重，按层名匹配，跳过形状不匹配的层
new_reg_model.load_weights('your_old_binary_model_weights.h5', by_name=True, skip_mismatch=True)

这里的by_name=True是让TensorFlow按层的名称去匹配权重，而不是按层的顺序；skip_mismatch=True会自动忽略那些形状对不上的层（也就是你修改的最后一层），前面的层权重会被正确加载，最后一层则用随机初始化的权重，之后你就可以继续训练回归任务了。

如果你想把原来二分类模型最后一层的其中一个输出权重作为回归任务的初始权重，可以手动加载旧权重并修改形状：

import tensorflow as tf

# 加载旧的二分类模型
old_binary_model = tf.keras.models.load_model('your_old_binary_model.h5')
old_weights = old_binary_model.get_weights()

# 找到最后一层的权重和偏置，修改形状
# 假设最后一层权重是old_weights列表的倒数第二个元素，偏置是倒数第一个
# 原来的权重形状是(50,2)，我们取其中一列改成(50,1)
adjusted_last_weights = old_weights[-2][:, 0:1]
adjusted_last_bias = old_weights[-1][0:1]

# 把修改后的权重赋值给新的回归模型
new_reg_model = build_your_regression_model()
new_weights = new_reg_model.get_weights()
new_weights[-2] = adjusted_last_weights
new_weights[-1] = adjusted_last_bias
new_reg_model.set_weights(new_weights)

这样你就把原来二分类模型的其中一个输出分支的权重迁移到了回归任务中，之后可以根据需求微调整个模型。

如果你的数据集足够大，也可以直接用新的回归模型结构从头开始训练，完全不用加载旧模型的权重。这种方法不会有形状不匹配的问题，但缺点是没法复用前面层已经训练好的特征提取能力，训练时间会更长。

内容的提问来源于stack exchange，提问作者NorwegianClassic