Ubuntu16.04下TensorFlow1.4.1目标检测模型优化报错求助

我之前也碰到过类似的情况，结合TensorFlow 1.4.1和Graph Transform Tool的特性，给你梳理几个可能的问题点和解决思路：

1. Graph Transform Tool版本与TensorFlow不兼容 #

TensorFlow 1.4.1属于较早的版本，Graph Transform Tool是和TF版本强绑定的，如果工具版本和TF主版本不一致，很容易出现兼容性问题。

• 排查方法：确认你使用的Graph Transform Tool是基于TensorFlow 1.4.1源码编译的，而非更高版本TF编译的工具。
• 解决方法：从TF 1.4.1的源码仓库编译对应版本的工具，步骤如下：

  git clone -b r1.4 https://github.com/tensorflow/tensorflow.git
  cd tensorflow
  bazel build tensorflow/tools/graph_transforms:transform_graph
  

  编译完成后，使用本地生成的transform_graph工具来优化你的计算图，避免用系统中其他版本的工具。

2. 优化过程中误删了目标检测模型的关键节点 #

目标检测模型（如SSD、Faster R-CNN）有特定的输出节点和内部依赖节点，Graph Transform Tool的部分优化选项可能会将这些节点误判为无用节点并删除，导致查询时出错。

• 排查方法：对比原始冻结图和优化后图的节点列表，查看是否缺失关键节点。可以用tf.get_default_graph().get_operations()打印节点，或通过TensorBoard可视化两个图的结构差异。
• 解决方法：使用transform_graph命令时，显式指定需要保留的输出节点（即后续推理要用到的节点）。目标检测模型常见的输出节点为detection_boxes、detection_scores、detection_classes、num_detections，命令示例：

  bazel-bin/tensorflow/tools/graph_transforms/transform_graph \
    --in_graph=frozen_inference_graph.pb \
    --out_graph=optimized_graph.pb \
    --inputs='image_tensor' \
    --outputs='detection_boxes,detection_scores,detection_classes,num_detections' \
    --transforms='
      strip_unused_nodes(type=float, shape="1,300,300,3")
      remove_nodes(op=Identity, op=CheckNumerics)
      fold_constants(ignore_errors=true)
      fold_batch_norms
      fold_old_batch_norms'
  

  确保所有需要的输出节点都包含在--outputs参数中，避免被优化工具误删。

3. 优化选项存在冲突或版本不兼容 #

早期TF版本中，部分优化选项（如quantize_weights或某些折叠操作）可能不稳定，容易破坏目标检测模型的计算图结构。

• 排查方法：先仅使用基础优化选项（如strip_unused_nodes、remove_nodes(op=Identity)），验证优化后的图能否正常查询。如果可以，再逐个添加其他优化选项，定位出导致报错的选项。
• 解决方法：移除有问题的优化选项，或针对TF 1.4.1调整参数。比如给fold_constants加上ignore_errors=true，避免因常量折叠失败导致图损坏。

4. 原始冻结图存在隐藏格式问题 #

虽然原始冻结图能正常运行，但可能存在未完全冻结的变量或不规范的节点属性，这些问题在优化过程中被放大。

• 排查方法：用freeze_graph工具重新冻结原始图，确保所有变量都转换为常量，命令示例：

  python tensorflow/python/tools/freeze_graph.py \
    --input_graph=your_graph.pb \
    --input_checkpoint=your_model.ckpt \
    --input_binary=true \
    --output_graph=frozen_inference_graph.pb \
    --output_node_names='detection_boxes,detection_scores,detection_classes,num_detections'
  

  用重新冻结后的图再次尝试优化，看问题是否解决。

5. 查询优化图的方式有误 #

你查询优化图的代码可能未适配优化后的节点变化，比如输入输出节点名称在优化后发生了改变。

• 排查方法：打印优化后图的所有节点名称，确认查询时使用的节点名正确，代码示例：

  import tensorflow as tf
  
  with tf.gfile.GFile('optimized_graph.pb', 'rb') as f:
      graph_def = tf.GraphDef()
      graph_def.ParseFromString(f.read())
  
  with tf.Session() as sess:
      sess.graph.as_default()
      tf.import_graph_def(graph_def, name='')
      # 打印所有节点名称
      for op in sess.graph.get_operations():
          print(op.name)
  

  对比你查询时用到的节点名是否存在于输出结果中。

如果以上方法都无法解决问题，建议补充报错的具体信息，这样能更精准地定位问题。根据我的经验，版本不匹配和未正确指定输出节点是最常见的诱因。

内容的提问来源于stack exchange，提问作者RoyS