TensorFlow C++中如何将浮点向量序列转为LSTM可用张量？

我来帮你一步步搞定这个问题——从Python转C++做LSTM推理，最容易卡壳的就是把自己的向量序列转换成符合要求的张量，别着急，咱们一步步来：

先明确LSTM输入的张量形状 #

首先得对应上你Python代码里的输入规格：你说的是10个序列（这是batch_size=10），每个序列有10个长度2002的向量（这是sequence_length=10，feature_dim=2002），所以最终需要的张量形状是 [10, 10, 2002]，数据类型一般是float32，得和你冻结图里定义的一致哈。

先把特征向量拼接完整 #

你已经写了拼接vecOne和vecTwo的开头，我把这部分补全，确保得到单个2002维的特征向量：

// 假设vecOne和vecTwo是已经填充好的float向量，加起来长度是2002
std::vector<float> vecOne_vecTwo_concat;
vecOne_vecTwo_concat.reserve(vecOne.size() + vecTwo.size());
// 把vecOne和vecTwo拼在一起，得到一个2002维的特征向量
vecOne_vecTwo_concat.insert(vecOne_vecTwo_concat.end(), vecOne.begin(), vecOne.end());
vecOne_vecTwo_concat.insert(vecOne_vecTwo_concat.end(), vecTwo.begin(), vecTwo.end());

构建单条输入序列 #

接下来，你需要把10个这样的2002维向量组成一条完整的序列：

std::vector<std::vector<float>> single_sequence;
for (int i = 0; i < 10; ++i) {
    // 这里替换成你获取第i组vecOne和vecTwo的逻辑，生成拼接后的向量
    std::vector<float> current_feature_vec = get_current_concatenated_vec(i); // 你自己实现这个函数
    single_sequence.push_back(current_feature_vec);
}

凑齐整个batch的10条序列 #

然后把10条这样的序列放在一起，组成整个输入batch：

std::vector<std::vector<std::vector<float>>> batch_data;
for (int batch_idx = 0; batch_idx < 10; ++batch_idx) {
    // 替换成你生成单条序列的逻辑
    std::vector<std::vector<float>> one_sequence = generate_single_sequence(batch_idx); // 自定义函数
    batch_data.push_back(one_sequence);
}

把嵌套向量转成TensorFlow张量 #

现在关键的一步来了，把这个三维的嵌套向量转换成TensorFlow C++能识别的Tensor对象：

#include "tensorflow/core/public/session.h"
#include "tensorflow/core/framework/tensor.h"

// 定义张量的形状：对应[batch_size, sequence_length, feature_dim]
tensorflow::TensorShape input_shape({10, 10, 2002});
tensorflow::Tensor input_tensor(tensorflow::DT_FLOAT, input_shape);

// 获取张量的flat视图，方便快速填充数据
auto input_flat = input_tensor.flat<float>();
int data_idx = 0;
// 遍历batch里的每条序列，再遍历序列里的每个向量，把数据塞进去
for (const auto& sequence : batch_data) {
    for (const auto& feature_vec : sequence) {
        for (float val : feature_vec) {
            input_flat(data_idx++) = val;
        }
    }
}

最后运行冻结图推理 #

有了输入张量，剩下的就是加载冻结图并执行推理了：

// 初始化Session
tensorflow::SessionOptions session_options;
tensorflow::Session* session = nullptr;
tensorflow::Status status = tensorflow::NewSession(session_options, &session);
if (!status.ok()) {
    std::cerr << "Session初始化失败：" << status.ToString() << std::endl;
    return -1;
}

// 加载你的冻结图文件（比如your_lstm_frozen.pb）
tensorflow::GraphDef graph_def;
status = tensorflow::ReadBinaryProto(tensorflow::Env::Default(), "your_lstm_frozen.pb", &graph_def);
if (!status.ok()) {
    std::cerr << "加载冻结图失败：" << status.ToString() << std::endl;
    return -1;
}
status = session->Create(graph_def);
if (!status.ok()) {
    std::cerr << "创建图失败：" << status.ToString() << std::endl;
    return -1;
}

// 准备输入和输出节点，注意节点名称要和你冻结图里的完全一致！
std::vector<std::pair<std::string, tensorflow::Tensor>> inputs = {
    {"your_input_node_name", input_tensor} // 替换成你实际的输入节点名称
};
std::vector<tensorflow::Tensor> outputs;

// 运行推理
status = session->Run(inputs, {"your_output_node_name"}, {}, &outputs);
if (!status.ok()) {
    std::cerr << "推理失败：" << status.ToString() << std::endl;
    return -1;
}

// 处理输出结果，比如输出张量的形状是[10, hidden_size]，可以这样提取数据
tensorflow::Tensor output_tensor = outputs[0];
auto output_flat = output_tensor.flat<float>();
// 这里写你的结果处理逻辑...

// 别忘了清理资源
session->Close();
delete session;

几个要注意的坑 #

• 输入节点名称必须准确：可以用TensorBoard或者Python里的tf.get_default_graph().get_tensor_by_name()确认你的输入节点名称，别写错了，不然会报错找不到节点。
• 数据类型要对齐：如果你Python里用的是float32，C++里就用DT_FLOAT，要是用了float64就对应DT_DOUBLE，类型不匹配会直接崩。
• 内存优化：如果你的数据量很大，建议直接在张量的内存空间里填充数据，避免先搞嵌套向量再拷贝，能省不少内存和时间。

内容的提问来源于stack exchange，提问作者Pototo