固定随机种子的Detectron模型跨服务器推理结果不一致问题

你的配置和部署流程存在4个明确问题，是CPU推理结果波动的核心原因：

• 随机种子配置完全失效。Detectron2的cfg.SEED参数仅在训练流程中会被自动调用生效，推理阶段你只写配置项不手动执行种子初始化，Python random、NumPy、PyTorch CPU算子的随机状态完全不受控。另外你训练阶段写的torch.backends.cudnn.benchmark = True本身就是非确定性配置，只是GPU推理时波动没显现，换到无cudnn约束的CPU场景，随机误差会直接影响预测结果。
• 模型配置加载不全。服务器2初始化配置时，你只手动设置了3个零散参数，没有加载训练时用的faster_rcnn_R_50_FPN_3x.yaml基础配置文件，RPN阈值、输入预处理规则、ROI头计算参数等大量配置都走了默认值，和训练时的配置不匹配，CPU和CUDA算子对默认参数的处理逻辑存在差异，直接导致结果偏移。
• 预处理逻辑和训练/GPU推理阶段不一致。服务器1推理时直接读原图送入预测器，服务器2部署时会用表单传入的dimensions参数强制resize图像，这个参数没有做任何合法性校验，一旦传入值类型错误、宽高比例和原图不符，会直接造成输入图像变形。另外你用cv2.imdecode时传了参数-1，会保留图像alpha通道输出4通道数据，而训练和GPU推理用的都是3通道BGR输入，通道数不匹配也会触发预测异常。
• 依赖版本未对齐。如果两台服务器的PyTorch、Detectron2、OpenCV、NumPy大版本不一致，CPU算子和CUDA算子的实现逻辑、浮点数计算精度存在差异，即使权重和配置完全相同，输出结果也会出现偏差。

可直接落地的修复步骤 #

1. 在部署代码最开头补全CPU场景的全链路确定性配置，不要只靠cfg.SEED：

import random
import os
import numpy as np
import torch

seed = 42
random.seed(seed)
os.environ['PYTHONHASHSEED'] = str(seed)
np.random.seed(seed)
torch.manual_seed(seed)
torch.use_deterministic_algorithms(True)

2. 初始化配置时先加载和训练阶段完全一致的基础配置文件，再覆写自定义参数，保证模型结构和训练时100%对齐：

from detectron2 import model_zoo
self.cfg = get_cfg()
self.cfg.merge_from_file(model_zoo.get_config_file("COCO-Detection/faster_rcnn_R_50_FPN_3x.yaml"))
self.cfg.MODEL.ROI_HEADS.SCORE_THRESH_TEST = 0.7
self.cfg.MODEL.ROI_HEADS.NUM_CLASSES = 4
self.cfg.MODEL.WEIGHTS = path_of_weights
self.cfg.MODEL.DEVICE = "cpu"

3. 修正图像预处理逻辑，和训练、GPU推理流程对齐：
   • 将cv2.imdecode的参数从-1改为cv2.IMREAD_COLOR，固定输出3通道BGR格式图像
   • 移除强制resize逻辑，直接将解码后的原图送入预测器，使用Detectron2内置的预处理逻辑做尺寸变换；如果必须做resize，要严格对齐训练时的缩放规则，不要用外部传入的不可靠尺寸参数
   • 接口层增加参数校验，确保传入的尺寸参数是合法正整数，避免类型转换错误导致的图像变形
4. 对齐两台服务器的依赖版本，保证PyTorch、Detectron2、OpenCV、NumPy的主版本号完全一致，消除跨版本算子实现差异带来的结果波动。

补充：如果需要训练结果可复现，训练阶段要把torch.backends.cudnn.benchmark设为False，这个参数开启后会自动选择最快的卷积实现，本身就不保证计算确定性，之前GPU推理结果稳定属于巧合。

内容的提问来源于stack exchange，提问作者Dawny33