TensorFlow Java无法从字节数组解析GraphDef异常问题求助

错误根因 #

直接读取saved_model.pb解析GraphDef的逻辑本身存在格式适配问题：Keras SavedModel API导出的saved_model.pb是SavedModel格式的顶层protobuf对象，并非纯GraphDef结构。文件中除了计算图定义外，还包含签名、元数据、变量关联信息等额外字段，直接用GraphDef.parseFrom解析会因为结构不匹配抛出protobuf解析异常。

另外你采用单独加载GraphDef的逻辑即使解析成功也无法正常运行模型：SavedModel格式的模型权重默认存储在同级variables目录下，仅导入计算图没有加载权重会导致模型输出结果完全错误，SavedModelBundle.load能正常运行的核心原因就是它自动完成了图加载+权重加载的完整流程。

适配方案 #

方案1：保留字节数组加载逻辑，调整Python端模型导出方式

如果你确定要使用字节数组加载纯计算图的方案，可以在Python端将Keras模型导出为嵌入权重的冻结图格式：

import tensorflow as tf
from tensorflow.python.framework.convert_to_constants import convert_variables_to_constants_v2

# 加载已保存的Keras SavedModel
model = tf.keras.models.load_model("你的SavedModel目录路径")
# 转换为带输入规格的具体函数
concrete_func = tf.function(lambda x: model(x)).get_concrete_function(
    tf.TensorSpec(model.inputs[0].shape, model.inputs[0].dtype)
)
# 将所有变量转换为常量嵌入计算图
frozen_graph = convert_variables_to_constants_v2(concrete_func)
# 导出冻结图文件
tf.io.write_graph(
    graph_or_graph_def=frozen_graph.graph,
    logdir="导出目录路径",
    name="frozen_model.pb",
    as_text=False
)

导出后的frozen_model.pb就是纯GraphDef结构，Java端可以直接解析加载：

String modelPath = "<模型目录>/frozen_model.pb";
byte[] modelAsByte = Files.readAllBytes(Paths.get(modelPath));
Graph g = new Graph();
g.importGraphDef(GraphDef.parseFrom(modelAsByte));
// 后续创建Session即可正常运行模型

方案2：不调整导出逻辑，优化Java端加载流程避免磁盘IO

你可以直接复用SavedModelBundle的加载能力，不需要修改导出逻辑：

• 常规场景下可以在应用启动时一次性加载SavedModelBundle实例，缓存到内存中复用，不需要每次请求都读取磁盘，自然就避免了频繁IO开销。
• 如果你的模型存储在分布式缓存等非磁盘位置，需要从字节数组加载完整SavedModel，可以使用Java NIO内存文件系统，将整个SavedModel目录（包含saved_model.pb和variables目录）的内容写入内存文件系统，再调用SavedModelBundle.load读取内存文件系统的路径即可，全程无磁盘IO。

版本说明 #

你使用的Python TF 2.7.0与Java TF 0.4.0版本本身兼容，不存在版本适配问题。

内容的提问来源于stack exchange，提问作者Arian Maghsoudnia