TensorFlow v2.10 C API中TF_LoadSessionFromSavedModel内存泄漏求助

问题场景 #

使用TensorFlow C API(v2.10)实现的C++ DLL被C#调用，仅执行TF_LoadSessionFromSavedModel加载模型，即使调用所有TF_Delete*系列释放函数，仍存在内存泄漏；重复调用该逻辑会持续占用内存直至耗尽RAM，通过Visual Studio的Process Memory工具可观测到内存增长。

核心排查方向与解决思路 #

1. 资源释放顺序错误（最可能的原因） #

你的代码中先释放TF_Graph再释放TF_Session，但**TF_Session持有TF_Graph的引用**，先销毁Graph会导致Session关联的Graph资源无法被正确回收，进而引发内存泄漏。

修正方式：调整释放顺序，先销毁Session，再销毁Graph：

// 正确的释放顺序
TF_DeleteSession(session, status);
TF_DeleteGraph(graph);
TF_DeleteSessionOptions(opts);
TF_DeleteStatus(status);

2. 未检查模型加载状态 #

如果TF_LoadSessionFromSavedModel加载失败，部分已分配的资源可能未被正确追踪，直接执行后续释放逻辑会遗漏这些资源。

修正方式：加载后立即检查状态，失败时针对性清理资源：

TF_Session *session = TF_LoadSessionFromSavedModel(opts, run_opts, "directory to model", &tags, ntags, graph, NULL, status);

// 检查加载是否成功
if (TF_GetCode(status) != TF_OK) {
    // 加载失败，清理已创建的资源
    TF_DeleteGraph(graph);
    TF_DeleteSessionOptions(opts);
    TF_DeleteStatus(status);
    return; // 或处理错误逻辑
}

// 成功加载后的正常释放
TF_DeleteSession(session, status);
TF_DeleteGraph(graph);
TF_DeleteSessionOptions(opts);
TF_DeleteStatus(status);

3. CRT上下文不匹配（跨语言调用常见问题） #

C++ DLL与C#进程的CRT（C运行时库）版本不一致时，内存分配和释放会在不同堆中进行，表现为内存泄漏（实际是堆资源无法跨上下文回收）。

解决方式：

• 将C++ DLL的编译选项设置为多线程DLL(/MD)，与C#默认使用的CRT保持一致；
• 确保DLL和C#进程使用相同的CRT版本（如均为x64 Release下的MD）。

4. TensorFlow内部静态资源/缓存排查 #

TensorFlow首次加载模型时会初始化全局静态资源（如算子注册、设备上下文），这些资源会常驻内存直到进程退出，但不会每次加载都增长。如果你的内存是每次调用都持续增长，可排除此问题；若仅首次加载有固定内存占用，属于正常现象。

5. 内存追踪工具辅助定位 #

使用TensorFlow内置的内存检测机制定位泄漏点：

• 设置环境变量TF_MEMORY_ALLOCATOR_DEBUG=1，启动程序后会输出内存分配/释放的详细日志；
• 自定义TF_MemoryAllocator实现，追踪每一次内存分配和释放的调用栈，定位未释放的内存块。

内容的提问来源于stack exchange，提问作者programmer0101