如何通过C++可执行文件在Python端获取数值一致的张量返回值

LibTorch默认对张量的标准输出做了阈值截断和精度限制，直接打印无法拿到完整精确的数值，根据使用场景可选以下三种可行方案：

方案1：修改打印配置输出全量文本（适合中小张量调试） #

手动调整LibTorch的打印参数，关闭截断限制、提升浮点数输出精度，再通过标准输出打印张量内容：

• C++端实现代码：

#include <iostream>
#include <torch/script.h>
#include <iomanip>

int main() {
    torch::Tensor tensor = torch::rand({1, 400, 400});
    // 配置打印规则：阈值设为大于张量总元素数，浮点数精度设为足够保证无损失
    torch::set_printoptions(
        /*precision=*/8,
        /*threshold=*/200000, // 张量总元素为1*400*400=160000，设20万足够
        /*edgeitems=*/200000,
        /*linewidth=*/200,
        /*profile=*/"full"
    );
    // 先输出张量形状、数据类型，再输出展平后的全量元素，降低Python端解析难度
    std::cout << tensor.sizes() << '\n';
    std::cout << tensor.dtype() << '\n';
    std::cout << tensor.flatten() << '\n';
    return 0;
}

• Python端逻辑：通过subprocess捕获标准输出文本，过滤掉末尾的类型标识行，拆分字符串为数值列表，结合输出的形状、dtype信息还原为PyTorch张量即可。
  注意：该方案存在文本序列化/反序列化开销，张量元素数超过千万时性能较差，仅适合调试场景使用。

方案2：序列化字节流传输（无精度损失、性能最优，首选） #

放弃文本传输方式，直接将张量序列化为Python侧可直接解析的二进制字节流，通过标准输出管道传输，从根源避免截断、精度损失问题：

• C++端实现代码：

#include <iostream>
#include <torch/script.h>
#include <vector>
#include <cstdint>

int main() {
    std::ios::sync_with_stdio(false); // 关闭流同步，避免二进制输出被转义篡改
    torch::Tensor tensor = torch::rand({1, 400, 400});
    // 序列化为与Python pickle兼容的字节格式
    std::vector<char> serialized_data = torch::pickle_save(tensor);
    // 先输出8字节长度标识，方便Python端准确读取数据
    uint64_t data_len = static_cast<uint64_t>(serialized_data.size());
    std::cout.write(reinterpret_cast<const char*>(&data_len), sizeof(data_len));
    // 输出完整序列化字节
    std::cout.write(serialized_data.data(), data_len);
    return 0;
}

• Python端实现代码：

import subprocess
import torch
import pickle
import struct

# 运行编译好的可执行文件，捕获二进制标准输出
proc_res = subprocess.run(
    ["./your_cpp_executable"], # 替换为实际可执行文件路径
    capture_output=True,
    check=True
)
# 解析前8字节拿到数据长度
data_length = struct.unpack("Q", proc_res.stdout[:8])[0]
# 直接反序列化得到张量，数值与C++端完全一致
tensor = pickle.loads(proc_res.stdout[8:8+data_length])

该方案序列化、反序列化速度是文本方案的10~100倍，无任何精度损失，不受张量体量限制，是生产环境的首选实现。

方案3：临时文件中转（适合超大体量张量） #

如果张量体量超过1GB，直接通过管道传输可能受系统缓冲区限制，可以先在C++端将张量保存为pt格式文件，Python端直接加载文件即可：

• C++端核心代码：

torch::save(tensor, "./temp_tensor.pt");

• Python端核心代码：

import torch
tensor = torch.load("./temp_tensor.pt")

该方案实现逻辑最简单，但需要磁盘读写权限、会产生临时文件，适合本地调试场景使用。

踩坑提示：默认使用std::cout << tensor输出时，LibTorch的打印触发截断阈值仅为1000个元素，且浮点数默认仅打印4位有效数字，就算关闭截断也会存在精度损失，必须手动调整打印参数才能拿到准确值。

内容的提问来源于stack exchange，提问作者jdw