TensorFlow2.6 LSTM回归模型输出与标签形状不匹配仍可运行问题问询

底层逻辑原因 #

• 第一个核心点是TensorFlow内置的广播机制：你训练时的模型输出shape为(batch_size, 2)，标签shape为(batch_size, 1, 1)，二者符合广播规则的适配条件：
  1. 维度数对齐阶段：shape为(batch_size, 2)的输出会自动在中间插入长度为1的维度，扩展为(batch_size, 1, 2)
  2. 维度值对齐阶段：标签最后一维长度为1，会自动广播为和输出一致的2，二者最终都变成(batch_size, 1, 2)的同shape张量，可直接参与计算
• 第二个核心点是MSE损失的计算逻辑：MSE默认会对输入的所有元素求平均得到最终损失值，不需要额外的维度匹配校验，只要广播后形状一致就可以正常计算
• 关于是否应该报错：TensorFlow 2.x的Keras接口默认采用宽松的维度兼容策略，只有当张量形状完全不符合广播规则时才会抛出维度不匹配错误，你当前的场景刚好满足广播适配条件，所以不会触发报错。

注意事项 #

这种运行正常是隐形的逻辑隐患，并不符合你的回归任务预期：你的模型输出2个预测值，但标签只有1个真实值，广播后相当于用同一个真实值和两个预测值同时计算损失，会干扰模型的收敛方向，建议做两处调整：

1. 将输出层Dense的神经元个数改为1，匹配标签的预测值数量
2. 用tf.squeeze(label, axis=-1)将标签的多余维度压缩，最终让输出和标签的shape都为(batch_size, 1)，保证损失计算符合预期

内容的提问来源于stack exchange，提问作者Andrew Sasha