TensorFlow 1.15大数据集模型保存时Protobuf UTF-8错误求助

原因分析 #

1. 张量维度名称含无效UTF-8字符
   大数据集中存在带非UTF-8编码的特征名或字段标识，动态构建张量时，这些无效字符被带入tensorflow.TensorShapeProto.Dim.name字段。小数据集未触发是因为抽样未覆盖这类异常数据，大数据集范围更广才暴露问题。
2. TensorFlow 1.15与Protobuf的校验限制
   TF1.15依赖的Protobuf版本（3.6.x-3.12.x）对字符串字段的UTF-8合法性校验严格，当GraphDef中存在无效UTF-8字符串时，解析过程直接抛出DecodeError。
3. 动态图构建的隐性污染
   若训练代码存在动态生成张量名称的逻辑（比如用输入数据的特征名自动命名），大数据集的部分批次数据会导致维度名称被异常字符污染，最终在模型保存阶段触发错误。

解决建议 #

1. 清洗张量维度名称的UTF-8有效性 #

• 找到所有生成张量维度名称的代码，对原始名称做清洗，替换无效UTF-8字符：

  def clean_feature_name(name):
      # 替换无效UTF-8字符为?
      return name.encode('utf-8', errors='replace').decode('utf-8')
  

• 避免直接用原始数据的字段名作为张量维度名称，改用可控的自定义命名（如dim_{index}、feature_{id}），彻底规避原始数据的编码问题。

2. 关闭GraphDef导出时的形状信息 #

保存模型时禁用形状信息导出，绕开维度名称的校验逻辑：

# 保存模型时不自动写入meta graph
save_path = saver.save(tf_session, os.path.join(model_folder, "{0}.ckpt".format(cp_name)), write_meta_graph=False)
# 手动导出不带形状信息的meta graph
saver.export_meta_graph(os.path.join(model_folder, "{0}.meta".format(cp_name)), add_shapes=False)

3. 排查并清洗大数据集的异常样本 #

• 对大数据集做批量检测，定位含非UTF-8字符的字段或样本，过滤后再训练：

  def is_valid_utf8(s):
      try:
          s.encode('utf-8').decode('utf-8')
          return True
      except UnicodeDecodeError:
          return False
  

4. 升级兼容范围内的Protobuf版本 #

TF1.15兼容Protobuf 3.6.0至3.12.x，尝试升级到该区间内的较新版本（如3.12.4），部分版本修复了UTF-8校验的边缘场景bug：

pip install protobuf==3.12.4

内容的提问来源于stack exchange，提问作者RangoWong