无法调用model.parameters()时，如何估算PyTorch模型参数规模用于对比？

完全可以通过torch.load(model_path)加载的字典来估算参数规模，你的思路刚好适合只需要大致对比模型相对大小的场景，下面给你具体实现和更优方案：

基于权重字典的参数估算实现 #

你提到的累加列表长度、张量维度乘积的思路完全可行，这里给你封装成通用函数：

import torch

def estimate_param_count(state_dict):
    total_params = 0
    for value in state_dict.values():
        if isinstance(value, torch.Tensor):
            # 计算张量所有维度的乘积，得到参数数量
            param_num = 1
            for dim in value.shape:
                param_num *= dim
            total_params += param_num
        elif isinstance(value, list):
            # 列表直接累加长度
            total_params += len(value)
    return total_params

# 使用示例
state_dict = torch.load("your_model.pt", map_location="cpu")
print(f"估算参数总数：{estimate_param_count(state_dict)}")

这个方法的好处是不需要依赖模型结构，直接读取权重文件即可；如果字典里包含少量非参数数据（比如缓存值），只要不是量级差异，完全不影响相对大小的对比。

更高效的对比方案（无需加载完整字典） #

如果只是要对比模型A和B的参数规模比例，还有个更快捷的方法：

• 直接对比权重文件的磁盘大小：参数在.pt文件里是以二进制形式存储的，只要两个模型的参数数据类型一致（比如都是float32），文件大小的比例基本等于参数数量的比例。比如模型A的文件是200MB，模型B是100MB，那A的参数大概是B的两倍。
  • 注意：如果数据类型不同（比如一个用float16，一个用float32），需要做简单换算：float16每个参数占2字节，float32占4字节，用「文件大小 ÷ 单参数字节数」后再对比即可。

如果必须加载字典，建议用torch.load的weights_only=True（PyTorch 2.0及以上版本）参数，只加载权重数据，跳过其他非必要内容，减少内存占用：

state_dict = torch.load("your_model.pt", map_location="cpu", weights_only=True)

内容的提问来源于stack exchange，提问作者werdas34