Keras模型减小卷积核尺寸后训练ETA降低是否正常？卷积核有何影响？

1. 将卷积核改为(1,1)后训练时长减少是完全正常的现象 #

卷积层的计算量和卷积核尺寸的平方直接挂钩。假设输入通道数为C_in，输出通道数为C_out，特征图尺寸为H×W：

• 3×3卷积的单步浮点运算量（FLOPs）约为：H×W×C_in×C_out×3×3
• 1×1卷积的单步浮点运算量约为：H×W×C_in×C_out×1×1

两者计算量相差9倍，再加上3×3卷积的参数数量也是1×1的9倍（每个卷积核的参数为kernel_size²×C_in），模型的前向/反向传播速度会大幅提升，训练ETA减少是必然结果。

2. 卷积核尺寸对模型的核心影响 #

感受野差异 #

• 3×3卷积：能捕捉局部空间范围内的特征关联，比如图像的边缘、纹理、局部形状等，是计算机视觉任务中提取空间特征的核心组件。随着网络层数加深，3×3卷积堆叠能逐步扩大感受野，让模型感知更大范围的图像信息。
• 1×1卷积：没有空间感知能力，只能在通道维度做特征融合或变换，比如把多通道特征做线性组合，或是实现通道数的升降维（类似ResNet里用1×1卷积匹配通道数的逻辑）。

模型表达能力 #

• 3×3卷积参数更多，且能建模空间依赖关系，特征提取能力更强，适合需要理解图像空间结构的任务（比如图像分类、目标检测）。
• 1×1卷积参数少，更偏向通道维度的特征整合，单独用在特征提取阶段会让模型丢失大部分空间信息，大概率导致任务性能下降（除非你的任务本身不需要空间特征，比如纯基于像素通道统计的简单分类）。

过拟合与欠拟合风险 #

• 3×3卷积参数多，若训练数据量不足，更容易出现过拟合；但如果数据量充足，其更强的表达能力能带来更好的任务性能。
• 1×1卷积参数少，过拟合风险更低，但也可能因模型容量不足导致欠拟合，无法学习到复杂的特征模式。

计算效率 #

• 1×1卷积的计算量和参数量远低于3×3，在资源有限的设备上（比如CPU、移动端），用1×1卷积可以大幅提升模型运行速度，但代价是空间特征提取能力的损失。

内容的提问来源于stack exchange，提问作者Yusuf Tarık