关于CNN中skip layers在AlphaGo Zero网络中的实现及维度疑问

首先纠正核心误解：你看到的残差层操作不是「堆叠两份输入」，AlphaGo Zero使用的标准残差块的跳跃连接（skip connection）执行的是逐元素加法，而非通道维度的拼接（concat），完全不会出现特征维度随深度增长的情况。

维度匹配逻辑 #

标准AlphaGo Zero残差块的设计完全对齐了加法的维度要求：

• 每个残差块内部的两层3x3卷积，输入通道数、输出通道数完全一致（默认配置为256通道），且卷积设置了padding=1，不会改变特征图的宽高尺寸
• 主路径两层卷积输出的张量维度（通道数、宽、高）和跳跃连接直接传过来的输入张量维度完全相同，二者直接逐元素相加后输出，维度和原始输入完全一致
• 无论堆叠多少层残差块，特征的维度始终保持固定，不存在指数级、甚至线性增长的可能

Conv2d通道数不一致的影响 #

PyTorch中nn.Conv2d的in_C（输入通道数）和out_C（输出通道数）不需要相等，不同取值的影响如下：

• 二者相等时：卷积仅在空间维度和特征语义层面做变换，通道维度保持不变，适配残差连接的逐元素加法要求，不需要额外处理跳跃路径，AlphaGo Zero的主网络大部分卷积都采用这种设计
• 二者不等时：输出张量的通道数会直接调整为out_C，如果要适配残差连接的加法逻辑，只需要在跳跃连接路径上新增一个1x1卷积，将输入的通道数也调整为和主路径输出一致的out_C即可，不会产生报错。

你提到的「修改conv2d滤波器输出通道大小」的方案，可以用来调整网络的容量大小（比如把默认256通道改为128减少参数量、改为512提升拟合能力），但你原本担心的维度增长问题本身不存在，是对操作类型的误解导致的。

补充说明：只有采用通道拼接作为跳跃连接的结构（如DenseNet）才会出现通道数随深度线性增长的情况，这类结构和AlphaGo Zero所用的残差结构逻辑完全不同。

内容的提问来源于stack exchange，提问作者TheDarBear