PyTorch量化感知训练报错：Unsupported qscheme: per_channel_affine

• 检查融合模块的量化方案兼容性
  不是所有PyTorch融合模块都支持per_channel_affine量化方案，比如旧版本中部分融合的Conv-BN-ReLU组合仅支持per_tensor_affine。可以手动指定量化配置的权重量化方案：

  qconfig = torch.quantization.get_default_qat_qconfig('fbgemm')
  qconfig = qconfig.set_weight(qscheme=torch.per_tensor_affine)
  model.qconfig = qconfig
  

  同时排查你修改的ResNet18中自定义融合的模块，确保融合逻辑符合PyTorch量化模块的要求。

• 升级PyTorch版本
  低版本PyTorch（1.8及以下）对per_channel_affine的支持存在局限性，尤其是在量化感知训练的融合模块场景中。升级到1.12及以上的稳定版本，能修复大量量化相关的兼容性问题。

• 校准量化准备与融合的执行顺序
  必须先完成模型模块融合，再执行量化感知训练的准备操作（prepare_qat），错误的顺序会导致融合模块未被正确配置量化参数。标准流程示例：

  # 初始化修改后的ResNet18
  model = ModifiedResNet18()
  # 融合指定模块
  model = torch.quantization.fuse_modules(model, [['conv1', 'bn1', 'relu']])
  # 设置量化配置
  model.qconfig = torch.quantization.get_default_qat_qconfig('fbgemm')
  # 执行量化准备
  model = torch.quantization.prepare_qat(model, inplace=True)
  # 启动量化感知训练
  

• 排查自定义层的量化支持
  如果你对ResNet18的层做了自定义修改（比如自定义卷积、激活层），这些层可能未注册对应的量化后端支持。可以将自定义层替换为PyTorch原生支持量化的层，或者为自定义层实现兼容的量化逻辑，比如用torch.quantization.QuantWrapper包装自定义层。

• 为特定模块单独设置量化配置
  若模型中存在无法支持通道级量化的模块，可以单独为其指定per_tensor_affine配置：

  # 为某层单独设置量化配置
  model.layer1[0].conv1.qconfig = torch.quantization.QConfig(
      activation=torch.quantization.default_observer,
      weight=torch.quantization.default_per_tensor_weight_observer
  )
  

内容的提问来源于stack exchange，提问作者Manu Dwivedi