ML.NET是否兼容TF2 saved_model格式？加载报错及输入输出名变更咨询

核心结论 #

ML.NET对TF2 SavedModel格式为有限兼容，仅支持符合TF Serving导出规范的静态图结构SavedModel模型，不存在官方虚假宣传的情况，加载报错和名称后缀问题均为使用适配问题。

常见问题说明 #

• 加载报错排查方向
  首先确认导出的TF2模型是否已将动态图转换为静态图、是否用到了ML.NET尚未支持的自定义OP/TF2新特性、是否显式定义了serving_default签名，不符合以上要求的模型都会触发加载异常。
• 输入输出名称后缀问题
  该现象并非ML.NET修改了模型原始定义，属于其TensorFlow绑定层的默认读取规则：
  • 输入的serving_default前缀是TF SavedModel默认的服务签名名，ML.NET默认读取该签名下的张量，会自动将签名名与输入张量名拼接
  • 输出的bias/Read/ReadVariableOp后缀是ML.NET解释器定位变量类型输出张量对应的底层读取操作节点产生的，属于正常读取逻辑

适配解决方案 #

1. 导出TF2模型时显式指定serving签名，参考代码：

import tensorflow as tf

# 假设已定义完成keras模型
model = tf.keras.Model(...)
# 显式定义输入张量规格与签名
serving_signature = model.save.get_concrete_function(
    tf.TensorSpec(shape=model.inputs[0].shape, dtype=model.inputs[0].dtype, name="input")
)
# 导出时指定签名
tf.saved_model.save(
    model,
    export_dir="./saved_model",
    signatures={"serving_default": serving_signature}
)

2. ML.NET加载模型时优先读取识别到的张量名，不要直接使用TF侧定义的名称，参考代码：

using Microsoft.ML;

var mlContext = new MLContext();
// 加载TF模型
var tfModel = mlContext.Model.LoadTensorFlowModel("./saved_model");
// 读取ML.NET实际识别到的输入输出名称
var inputNames = tfModel.GetInputTensorNames();
var outputNames = tfModel.GetOutputTensorNames();

// 后续管道配置直接使用读取到的inputNames、outputNames即可

内容的提问来源于stack exchange，提问作者f_gulay