转PyTorch时为何tf.keras.layers.concatenate增加U-Net参数量？

将TensorFlow编写的U-Net转换为PyTorch版本时，发现两版参数量存在差异。排查中观测到：

• 保留c = tf.keras.layers.concatenate([u, conv_output])拼接语句时，模型总参数量为34,513,475，全部为可训练参数
• 注释掉该拼接语句、直接将Conv2DTranspose上采样输出传入后续Dropout与卷积块时，模型总参数量为31,380,035，全部为可训练参数
• 两者参数量差值恰好为3,133,440，与“拼接层本身无训练参数”的认知矛盾。

tf.keras.layers.concatenate本身确实没有任何训练参数，参数量差值全部来自拼接层之后的下游卷积层。
U-Net的核心结构是decoder阶段将上采样特征与encoder阶段对应尺度的跳连特征沿通道维度拼接，拼接操作会让输出特征的通道数变为两个输入特征的通道数之和。如果删除拼接步骤，直接把上采样特征送入后续卷积层，后续卷积层的输入通道数会比保留拼接时少了跳连特征的通道数，卷积核的权重维度对应缩小，参数量自然下降。
Keras的model.summary()会将参数量统计到持有权重的卷积层名下，不会在无权重的拼接层上计数，你看到的总参数量差是所有decoder阶段受输入通道数变化影响的卷积层的参数量差值总和，和拼接层本身无关。

你可以逐行对比两种场景下model.summary()输出的各层参数量：

• 保留拼接时，拼接层之后的首个Conv2D层的输入通道数，等于上采样输出通道数加对应encoder跳连特征的通道数
• 删除拼接时，同一位置Conv2D层的输入通道数仅为上采样输出的通道数
• 单卷积层的参数量差计算公式为：卷积核高 * 卷积核宽 * 跳连特征通道数 * 卷积层输出通道数，将decoder所有受影响卷积层的差值累加，结果恰好为3,133,440。

转换代码时不要遗漏decoder阶段的跳连拼接操作，拼接后送入后续卷积层的in_channels参数需要设置为两个输入特征的通道数之和，不能仅以上采样输出的通道数赋值，否则就会出现参数量和TensorFlow版本不一致的问题。如果直接删除拼接逻辑，相当于把U-Net改成了无跳连的普通编解码结构，本身就不符合U-Net的结构定义。

内容的提问来源于stack exchange，提问作者ThOpaque