PyTorch权重复制与修改问题：逐元素复制为何无效？

你的代码无效的核心原因是：state_dict() 返回的是模型参数的副本，而非对模型内部张量的直接引用。修改这个副本不会影响模型实际使用的参数，自然看不到效果。

以下是两种可行的逐元素权重复制方法，且便于后续添加权重噪声：

方法一：直接遍历模型参数与缓冲区（推荐） #

这种方式直接操作模型内部的张量，无需额外加载状态字典，更高效且能覆盖所有参数（包括批量归一化的运行均值/方差等缓冲区）：

import torch as th

with th.no_grad():
    # 复制可学习参数
    for (target_name, target_param), (pretrained_name, pretrained_param) in zip(
        sacAgent.actor.latent_pi.named_parameters(),
        pretrained_actor.latent_pi.named_parameters()
    ):
        # 确保参数名称匹配（可选但能避免错位）
        assert target_name == pretrained_name, "参数名称不匹配，无法复制"
        # 逐元素复制预训练权重到目标参数
        target_param.data.copy_(pretrained_param.data)
    
    # 复制缓冲区（如BatchNorm的running_mean/running_var）
    for (target_name, target_buf), (pretrained_name, pretrained_buf) in zip(
        sacAgent.actor.latent_pi.named_buffers(),
        pretrained_actor.latent_pi.named_buffers()
    ):
        assert target_name == pretrained_name
        target_buf.data.copy_(pretrained_buf.data)

方法二：修改状态字典后重新加载 #

如果更习惯使用状态字典，可以先修改副本，再将其加载回模型：

import torch as th

with th.no_grad():
    pretrained_state = pretrained_actor.latent_pi.state_dict()
    target_state = sacAgent.actor.latent_pi.state_dict()
    
    for key in target_state.keys():
        if key in pretrained_state:
            # 复制预训练权重到状态字典副本
            target_state[key].data.copy_(pretrained_state[key].data)
    
    # 将修改后的状态字典加载回目标模型
    sacAgent.actor.latent_pi.load_state_dict(target_state)

后续添加权重噪声 #

完成权重复制后，可直接在目标模型的参数上添加噪声：

noise_scale = 0.01  # 噪声幅度，根据需求调整
with th.no_grad():
    for param in sacAgent.actor.latent_pi.parameters():
        noise = th.randn_like(param) * noise_scale
        param.data.add_(noise)

这种逐元素操作的方式完全符合你的需求，既能清晰控制权重复制过程，也方便后续引入噪声扰动。

内容的提问来源于stack exchange，提问作者Artur