PyTorch如何获取网络所有参数 top子模块参数无法遍历问题

你无法获取fnn_adam.top关联参数的核心原因是：在node类的定义中，你使用了Python原生的普通列表self.set_lay = []存储OneInputBasis子模块。PyTorch的nn.Module机制只会自动追踪被注册为成员属性的子模块，以及存放在PyTorch专用容器（nn.ModuleList/nn.Sequential/nn.ModuleDict）中的子模块，普通列表内的子模块不会被自动注册，因此既不会出现在parameters()的遍历结果中，也不会被模型的其他内置方法（比如.to()、.state_dict()）识别。

只需要把node类里的普通列表替换为nn.ModuleList即可，其余forward逻辑不需要改动，修改后的node类初始化部分如下：

class node(nn.Module):
    def __init__(self):
        super().__init__()
        
        bo_b = True
        bo_last = False
        # 替换原生列表为PyTorch专用的模块容器
        self.set_lay = nn.ModuleList()
        
        for jj in range(dim_output_space_basis):
            self.set_lay.append(OneInputBasis())

修改完成后，再遍历fnn_adam.parameters()就能同时获取top和bottom两个子模块的全部参数。

额外提示：你目前在每个线性层定义后单独调用.to(device)的写法是冗余的，等整个模型实例化后统一调用fnn_adam.to(device)即可，所有被正确注册的子模块参数都会被自动移到指定设备，不需要逐层手动迁移。

• 修复注册逻辑后，.top下的所有参数默认requires_grad=True，属于可训练参数，只要把fnn_adam.parameters()传入优化器，训练时这部分参数就会正常更新。
• 如果不修复注册问题，这部分参数不会被优化器获取，训练时完全不会更新，同时模型保存、设备迁移时都会遗漏这部分参数，相当于失效状态。

内容的提问来源于stack exchange，提问作者math numerical analysis