You need to enable JavaScript to run this app. TensorFlow导出SavedModel供TensorFlow Serving使用时.pb文件仅252字节为空
优惠活动
大模型
产品
解决方案
定价
更多

TensorFlow导出SavedModel供TensorFlow Serving使用时.pb文件仅252字节为空

问题根因定位

导出的SavedModel仅包含签名元信息、无实际权重,本质是导出流程中会话绑定的图对象,与定义模型结构、加载模型权重的图对象完全独立,导致SavedModelBuilder遍历会话图时找不到任何可序列化的模型变量。结合现有代码逻辑,常见触发点包括:

  • 创建TensorFlow 1.x会话时,没有显式指定要绑定的图对象,导致会话被绑定到全局默认空图,而非提前初始化的self.graph
  • 权重恢复完成后,代码退出了self.graph.as_default()的上下文块,后续在全局作用域执行导出逻辑时,没有将模型张量、会话与导出流程的图上下文做显式绑定
  • 权重恢复流程存在静默匹配问题:Saver初始化时未收集到目标图下的模型变量,虽未抛出报错,但实际没有将权重值加载到会话内存中
可行解决方案
  • 修正会话创建逻辑,显式将会话与目标图绑定,修改restore函数的核心代码:
    把原来的self.Session = tf.compat.v1.Session()替换为self.Session = tf.compat.v1.Session(graph=self.graph),从根源上避免会话错绑到全局空图的问题
  • 修正Saver初始化逻辑,明确指定变量收集范围,避免上下文切换导致的变量收集失败:
    移除restore函数里多余的tf.name_scope('Session')嵌套,在图上下文内直接初始化Saver,强制收集目标图的全局变量:
    def restore(self, load='path'):
        with tf.device(self.cpu):
            self.Session = tf.compat.v1.Session(graph=self.graph)
            # 显式指定收集的变量列表,避免上下文干扰
            saver = tf.compat.v1.train.Saver(var_list=self.graph.get_collection(tf.GraphKeys.GLOBAL_VARIABLES))
            saver.restore(self.Session, load)
    
  • 导出流程全程在self.graph.as_default()的上下文内执行,不要在全局作用域直接运行导出代码,确保所有导出操作遍历的都是加载了权重的目标图:
    export_path = 'new/path'
    # 显式进入目标图的上下文块
    with self.graph.as_default():
        print('Exporting trained model to', export_path)
        builder = tf.compat.v1.saved_model.builder.SavedModelBuilder(export_path)
        tensor_info_x = tf.compat.v1.saved_model.utils.build_tensor_info(self.img)
        tensor_info_y = tf.compat.v1.saved_model.utils.build_tensor_info(self.output)
    
        prediction_signature = (
            tf.compat.v1.saved_model.signature_def_utils.build_signature_def(
                inputs={'image': tensor_info_x},
                outputs={'joints': tensor_info_y},
                method_name=tf.compat.v1.saved_model.signature_constants.PREDICT_METHOD_NAME))
    
        builder.add_meta_graph_and_variables(
            self.Session, [tf.compat.v1.saved_model.tag_constants.SERVING],
            signature_def_map={
                tf.compat.v1.saved_model.signature_constants
                    .DEFAULT_SERVING_SIGNATURE_DEF_KEY:
                prediction_signature,
            },
            strip_default_attrs=True)
    
        builder.save()
        print('Done exporting!')
    
  • 导出前增加前置校验步骤,确认会话内的变量已经加载了正确权重,避免导出空模型:
    在正式执行导出前,随机抽取一个模型权重变量在会话中运行输出数值,确认不是初始化的随机值/空值:
    # 从目标图中随机取一个全局变量做校验
    test_var = self.graph.get_collection(tf.GraphKeys.GLOBAL_VARIABLES)[0]
    print('Test weight value sample:', self.Session.run(test_var).flatten()[:5])
    
    如果输出的是全0、完全随机的初始化值,说明权重恢复流程本身存在问题,需要检查checkpoint路径是否正确、变量命名是否和训练时的模型完全匹配。
导出结果校验标准

修正代码后,导出的SavedModel目录应该包含完整结构:

  • 根目录下的saved_model.pb文件,大小与模型结构复杂度匹配,通常在几KB到几十KB区间
  • 同目录下的variables文件夹,内含variables.data-00000-of-00001(权重文件,大小与模型参数量正相关)和variables.index两个文件
    如果导出后没有生成variables文件夹,说明仍存在会话与图绑定不匹配的问题,需要重新排查上下文逻辑。

内容的提问来源于stack exchange,提问作者Ivan Smirnov

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.11.14 04:06:05