能否通过TensorFlow C++ API在不运行计算图的情况下进行形状推断？

当然可以做到！TensorFlow的C++ API本身就支持不运行计算图的情况下做静态形状推断，核心是利用它内置的形状传播机制。下面是具体的实现步骤和代码示例：

1. 把加载好的GraphDef转为Graph对象 #

你已经从磁盘加载了tensorflow::GraphDef，首先需要把它导入到tensorflow::Graph实例中，这是后续形状操作的基础：

#include "tensorflow/core/graph/graph.h"
#include "tensorflow/core/graph/graph_def_builder.h"
#include "tensorflow/core/framework/tensor_shape.h"

// 假设你已经成功加载了graph_def变量
tensorflow::Graph graph(tensorflow::OpRegistry::Global());
tensorflow::Status status = tensorflow::GraphDefToGraph(graph_def, &graph);
if (!status.ok()) {
  // 这里处理转换错误，比如打印错误信息
  std::cerr << "GraphDef to Graph failed: " << status.ToString() << std::endl;
  return;
}

2. 为输入节点设置已知形状 #

接下来要给输入节点指定明确的形状（也就是你工具中要传入的输入尺寸）。先找到对应的输入节点，再设置它的输出形状：

// 替换成你实际的输入节点名称
const std::string input_node_name = "input";
tensorflow::Node* input_node = graph.FindNodeByName(input_node_name);
if (!input_node) {
  std::cerr << "Input node " << input_node_name << " not found!" << std::endl;
  return;
}

// 示例：设置输入形状为[32, 224, 224, 3]（批量32，224x224的RGB图像）
tensorflow::TensorShape input_shape({32, 224, 224, 3});
// 同时要设置输入的数据类型，比如float
input_node->set_output_type(0, tensorflow::DT_FLOAT);
input_node->set_output_shape(0, input_shape);

3. 触发形状推断 #

TensorFlow提供了InferShapes函数，它会遍历整个计算图，把输入的形状信息传播到所有依赖的节点，这个过程完全不需要执行实际计算：

#include "tensorflow/core/graph/shape_inference.h"

tensorflow::shape_inference::InferenceContext::Options infer_options;
tensorflow::Status infer_status = tensorflow::InferShapes(
    graph,
    tensorflow::OpRegistry::Global(),
    infer_options);
if (!infer_status.ok()) {
  std::cerr << "Shape inference failed: " << infer_status.ToString() << std::endl;
  return;
}

4. 获取输出节点的推断形状 #

形状推断完成后，直接从目标输出节点读取形状即可：

// 替换成你实际的输出节点名称
const std::string output_node_name = "output";
tensorflow::Node* output_node = graph.FindNodeByName(output_node_name);
if (!output_node) {
  std::cerr << "Output node " << output_node_name << " not found!" << std::endl;
  return;
}

const tensorflow::TensorShape& output_shape = output_node->output_shape(0);
// 打印输出形状的各个维度
std::cout << "Inferred output shape: ";
for (int dim_idx = 0; dim_idx < output_shape.dims(); ++dim_idx) {
  // 如果维度是未知的，会显示-1（对应TensorShape::kUnknownDim）
  std::cout << output_shape.dim_size(dim_idx) << " ";
}
std::cout << std::endl;

一些注意事项 #

• 如果你的计算图中存在依赖运行时动态数据的操作（比如DynamicStitch、TensorArray这类动态结构），静态形状推断可能无法得到完整的确定形状，部分维度会被标记为未知（值为TensorShape::kUnknownDim）。
• 不同TensorFlow版本的API可能有细微调整，比如在较新的版本中，形状推断的参数可能有变化，但核心逻辑是一致的，建议对照你使用的版本的官方文档调整。

内容的提问来源于stack exchange，提问作者Kasper Marstal