使用TensorFlow Object Detection API及Model Zoo中Mask-RCNN训练时的Checkpoint加载错误求助

你遇到的是预训练checkpoint与自定义配置的网络结构不匹配导致的典型问题，以下是几个经过验证的可行解决方案：

1. 严格匹配预训练模型与配置文件 #

首先要确保你下载的Model Zoo预训练checkpoint和使用的config是完全对应的：

• 比如如果用的是mask_rcnn_resnet50_fpn_coco.config，必须下载对应的mask_rcnn_resnet50_fpn_coco_20200129 checkpoint包，绝对不能混用ResNet101或其他变体的checkpoint
• 不要随意修改config中网络结构相关的参数（比如FPN的通道数、骨干网络的卷积层配置），这些参数和预训练checkpoint深度绑定，改动后必然会引发形状不兼容问题

2. 修正配置文件中的关键参数 #

打开你的pipeline.config，逐一核对以下参数：

• num_classes: 必须和你的数据集目标类别数完全一致（注意：TensorFlow OD API中这个值不包含背景类，比如COCO是90，如果你有5类目标就设为5）
• fine_tune_checkpoint: 路径要精准指向预训练checkpoint的ckpt文件，比如mask_rcnn_resnet50_fpn_coco_20200129/model.ckpt-100000
• from_detection_checkpoint: true: 很多默认config里可能缺失这个参数，必须加上，它会告诉API正确加载检测头的权重
• fine_tune_checkpoint_type: "detection": 你已经尝试过这个设置，但要确保它和from_detection_checkpoint同时生效

3. 清空旧训练目录重新启动 #

之前的model/v1/目录中可能留存了不兼容的临时checkpoint或日志文件，导致训练时加载混乱：

• 完全删除model/v1/目录
• 重新执行训练命令：python model_main_tf2.py --pipeline_config_path=pipeline.config --model_dir=model/v1/

4. 从官方模板生成干净的配置文件 #

如果以上方法都无效，建议直接从官方库获取对应模型的原始config，仅修改必要的数据集相关参数：

1. 从models/research/object-detection/configs/tf2/下下载对应模型的config文件（比如mask_rcnn_resnet50_fpn.config）
2. 只修改train_input_reader和eval_input_reader中的tf_record_input_reader.input_path，指向你的训练/验证TFRecord文件
3. 修改label_map_path指向你的标签映射文件
4. 修改num_classes为你的数据集类别数
5. 其他所有参数保持默认，不要改动任何网络结构相关配置

错误原因说明 #

你看到的Two checkpoint references resolved to different objects和Shapes (...) are incompatible错误，本质是预训练checkpoint中的卷积层参数形状（比如(1, 1, 1024, 512)）和你当前config定义的网络层形状（(1, 1, 1088, 256)）不匹配，通常由以下原因导致：

• 混用了不同版本的预训练模型和config
• 手动修改了FPN通道数、骨干网络特征维度等核心结构参数
• 数据集类别数设置错误，引发检测头的卷积层形状变化

内容的提问来源于stack exchange，提问作者Stainley