加载PyTorch模型Checkpoint遇报错，求正确使用clone()的方法

问题原因 #

你的模型存在参数共享（多个层复用同一组参数张量），加载checkpoint时直接赋值会因目标张量的多个元素指向同一内存位置，引发写入操作冲突。

正确加载方式 #

遍历checkpoint中的所有参数张量，逐个调用clone()创建独立内存的副本，再加载到模型中：

# 加载checkpoint并指定到CPU
chkpt = torch.load(chkpt_path, map_location='cpu')
# 对每个参数张量执行clone，生成独立内存的张量字典
cloned_model_state = {key: tensor.clone() for key, tensor in chkpt['model_state_dict'].items()}
# 加载处理后的状态字典
net.load_state_dict(cloned_model_state)

之前clone尝试失败的原因 #

直接对整个chkpt['model_state_dict']调用clone无效，必须遍历字典内的每个张量元素单独处理，才能确保每个参数拥有独立内存空间，规避写入时的内存冲突。

内容的提问来源于stack exchange，提问作者Markus F