使用TensorFlow Object Detection API微调mask_rcnn_inception_resnet_v2_atrous_coco模型时遇断言失败错误

嘿，我一眼就看出这个问题出在哪了——你的模型预期的分类类别数和MIO-TCD数据集的实际类别数不匹配！错误里的x=0和y=5就是最直接的线索：mask_rcnn_inception_resnet_v2_atrous_coco预训练模型默认是为COCO的90个类别设计的，但你的数据集配置或者标注里的类别数和这个对不上，触发了BoxClassifierLoss里的断言检查。

下面给你一步步解决的方案：

• 修改模型配置文件的核心参数
  找到你用的Mask R-CNN配置文件（就是那个.config文件），必须改这几个关键地方：

  1. num_classes：设置为你的MIO-TCD数据集的前景类别数（比如如果你的数据集是5个目标类，这里就写5；原始MIO-TCD是11类，那就要写11）。注意这里是前景类数量，背景类会自动被模型处理，不用算进去。
  2. 找到mask_rcnn_box_predictor模块，里面也有一个num_classes参数，必须和上面的数值保持一致——很多人会漏改这个，导致还是报错。
  3. 确认fine_tune_checkpoint指向正确的预训练ckpt文件，同时设置from_detection_checkpoint: true，这样模型只会微调分类和检测头部，而不是从头训练。

• 验证TFRecord里的标注类别ID是否合规
  你的TFRecord标注里的类别ID必须是从0开始的连续整数，最大ID不能超过num_classes - 1。比如你设了num_classes=5，那标注ID只能是0、1、2、3、4。如果标注里出现了5或者更大的数，就会触发这个断言错误。你可以用这段代码快速检查：

  import tensorflow as tf
  
  def check_tfrecord_classes(tfrecord_path, expected_max_class):
      for record in tf.data.TFRecordDataset(tfrecord_path):
          example = tf.train.Example()
          example.ParseFromString(record.numpy())
          class_ids = example.features.feature['image/object/class/label'].int64_list.value
          if not class_ids:
              continue
          max_id = max(class_ids)
          if max_id > expected_max_class:
              print(f"警告：发现无效类别ID {max_id}，超出预期最大值 {expected_max_class}")
          print(f"当前样本的类别ID：{class_ids}")
  
  # 替换成你的TFRecord路径和预期的最大类别ID（num_classes-1）
  check_tfrecord_classes("./train.tfrecord", 4)
  

• 确认训练命令用对了修改后的配置
  启动训练时，一定要确保pipeline_config_path指向你修改好的配置文件，而不是默认的COCO配置。比如正确的启动命令应该是这样：

  python model_main_tf2.py --model_dir=./my_training_dir/ --pipeline_config_path=./my_modified_mask_rcnn.config
  

最后再提醒一句：如果用的是原始MIO-TCD数据集，记得它的11个前景类对应的ID要从0到10，别搞成从1开始，不然也会触发类似的断言错误。

内容的提问来源于stack exchange，提问作者Mohamed Hedeya