PyTorch中SegNet微调简化方案的可行性及验证方法

首先，你给出的代码存在一个关键问题：model.named_modules()返回的是模型中的子模块（比如整个卷积层、池化层这类模块对象），而requires_grad是参数（Parameter）的专属属性，不是模块的属性。直接给模块设置param.requires_grad = False并不会真正冻结模块内的参数，这会导致你的代码达不到预期的冻结效果。

修正后的可行方案 #

你应该改用model.named_parameters()来遍历所有参数，根据参数所属的层名来控制是否冻结：

import torch.optim as optim
model = SegNet()

# 遍历所有参数，冻结除最后一层外的参数
for name, param in model.named_parameters():
    # 注意：建议先打印所有参数名确认最后一层的命名，避免层名匹配错误
    if "conv11d" not in name:
        param.requires_grad = False

# 只对可训练参数设置优化器（更高效，避免冗余计算）
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()), lr=0.01, momentum=0.5)

def train():
    # 你的训练逻辑
    ...

额外小提示：先运行print([name for name, _ in model.named_parameters()])打印所有参数的完整名称，确认最后一层的参数名确实包含"conv11d"——不同实现的层名可能带后缀（比如weight或bias），避免误冻结或漏冻结目标层。

如何验证方案是否按预期工作？ #

你可以通过以下几种方式确认冻结逻辑是否生效：

• 检查参数的requires_grad状态：
  遍历参数并打印状态，确保除目标层外的参数都被设为False：

  for name, param in model.named_parameters():
      print(f"{name}: requires_grad={param.requires_grad}")
  

• 查看优化器中的参数数量：
  优化器只会包含requires_grad=True的参数，你可以打印优化器的参数长度，对比最后一层的参数数量（比如卷积层通常有weight和bias两个参数，长度应该为2）：

  print(f"优化器中可训练参数数量：{len(optimizer.param_groups[0]['params'])}")
  

• 训练时监控参数变化：
  训练前记录最后一层参数的初始值，运行几个batch后再对比，确认只有最后一层的参数在更新，其他冻结层参数保持不变：

  # 训练前记录初始值
  initial_weights = model.conv11d.weight.data.clone()
  initial_bias = model.conv11d.bias.data.clone()
  
  # 运行几个训练batch
  train()
  
  # 对比参数变化
  print("最后一层权重是否更新：", not torch.allclose(model.conv11d.weight.data, initial_weights))
  print("最后一层偏置是否更新：", not torch.allclose(model.conv11d.bias.data, initial_bias))
  
  # 选一个冻结层验证是否未变化
  frozen_layer_weights = model.conv1.weight.data.clone()
  print("冻结层权重是否未变化：", torch.allclose(model.conv1.weight.data, frozen_layer_weights))
  

内容的提问来源于stack exchange，提问作者Jimbo