如何在TensorFlow Object Detection API中添加Cutout自定义增强

报错根因 #

你遇到的 Message type "object_detection.protos.PreprocessingStep" has no field named "CutOut" 报错，本质是proto定义链路没有完全打通——仅修改proto文件、执行protoc命令不足以让框架识别新增的预处理字段，需要完成从定义、编译、逻辑绑定到配置对齐的全流程改造。

完整改造步骤 #

• **步骤1：修改proto定义文件
  定位到object_detection/protos/preprocessor.proto文件，参考现有空间增强（如随机水平翻转、随机裁剪）的嵌套结构：
  1. 在文件内新增独立的Cutout参数定义message，把Cutout需要的入参（裁剪块边长、填充值、随机位置边界等，和你使用的Cutout接口入参一一对应）按proto语法声明。
  2. 打开文件中已有的PreprocessingStep message定义，在其用于枚举所有可选预处理操作的oneof代码块内，把新增的Cutout参数message作为一个可选分支加入。
  3. 核对全文件现有已占用的字段编号，给Cutout字段分配一个从未被使用过的唯一编号，避免编号冲突。
• **步骤2：合规执行proto编译
  注意编译的工作目录必须是models项目的根路径（即object_detection目录的上一级路径），不能进入object_detection/protos目录后再执行命令，正确的编译命令为：protoc object_detection/protos/*.proto --python_out=.
  编译完成后打开生成的object_detection/protos/preprocessor_pb2.py文件，定位到PreprocessingStep类的定义段，确认文件内已经存在你新加的Cutout字段对应的序列化逻辑，若不存在则说明proto修改或编译路径存在问题。
• **步骤3：绑定预处理调度逻辑
  定位到object_detection/core/preprocessor.py文件：
  1. 实现Cutout的核心处理函数，严格对齐现有预处理函数的输入输出签名（需同时接收图像张量、检测框张量、关键点点阵张量三类输入，返回处理完成的对应三类输出）。注意需要处理好Cutout操作的边界对齐逻辑：避免因图像块遮挡导致检测框、关键点的位置标注失配。
  2. 找到文件内负责按配置分发调用预处理函数的调度分支逻辑，新增针对Cutout字段的判断分支：当配置读取到Cutout参数时，将参数传入你实现的Cutout核心函数完成调用。
• **步骤4：对齐配置文件规则
  在训练用的pipeline.config文件的预处理步骤块下，按照proto内定义的Cutout字段名填写对应参数，注意proto对字段名的大小写是强匹配的，不要出现大小写不一致的情况。

高频踩坑排查清单 #

• 编译路径错误：在protos子目录下执行protoc命令，生成的_pb2.py文件路径不符合Python包的导入规则，训练时实际加载的仍然是历史版本的preprocessor_pb2.py，自然识别不到新增字段。
• 字段编号冲突：给Cutout分配的字段编号和现有字段重复，proto编译器会自动跳过冲突字段，导致最终生成的pb2文件内缺失Cutout相关定义。
• 配置字段名不匹配：proto内定义的字段名和pipeline.config内填写的字段名大小写不一致，proto文本解析时会直接判定字段不存在。
• 进程缓存问题：之前启动的训练进程没有完全终止，Python进程在内存中仍然加载旧版本的pb2文件，即使磁盘上的文件已经更新，不重启进程也不会加载新的字段定义。

内容的提问来源于stack exchange，提问作者Kevin