如何解决SavedModel转TFLite时出现的ValueError: None仅支持第一维度问题

你遇到的这个报错很典型——TFLite的核心算子默认只允许输入张量的第一个维度（batch维度）是动态的（即None），后面的维度必须是固定值，所以你的[None, None, None]形状占位符就触发了这个限制。不过别担心，有几个办法能在保留多尺寸输入支持的前提下完成转换：

方案1：启用TF操作支持（FlexDelegate） #

这个方法适用于你不想修改原TF 1.x代码的场景，只需要在转换时添加一行配置，让TFLite允许使用TensorFlow的原生操作（通过FlexDelegate），这样就能兼容动态形状了。

修改你转换部分的代码如下：

src_model_file = os.path.join(os.getcwd(), "savedmodel_test_dir")
convert = tf.lite.TFLiteConverter.from_saved_model(src_model_file, input_arrays=["JW_Input"], output_arrays=["JW_Output"])
# 启用TFLite内置算子 + TF原生算子支持
convert.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS, tf.lite.OpsSet.SELECT_TF_OPS]
# 执行转换并保存模型
tflite_model = convert.convert()
with open("dynamic_model.tflite", "wb") as f:
    f.write(tflite_model)

转换后的模型在推理时需要依赖FlexDelegate加载（大部分TFLite部署框架都支持开启这个Delegate），就能处理任意符合[batch, H, W]格式的输入尺寸了。

方案2：迁移到TF 2.x动态图API（更推荐长期方案） #

TF 2.x对动态形状的支持更完善，配合签名定义可以更顺畅地转换。把你的代码改成TF 2.x风格：

import tensorflow as tf
import numpy as np
import os
import shutil

input_array = np.zeros((1, 28, 28))

# 用Module封装模型
class MyModel(tf.Module):
    def __init__(self):
        super().__init__()
        self.W = tf.Variable(tf.zeros([28, 28, 10]))
    
    # 定义输入签名，保留动态形状
    @tf.function(input_signature=[tf.TensorSpec(shape=(None, None, None), dtype=tf.float32, name='JW_Input')])
    def __call__(self, x):
        y = tf.matmul(x, self.W, name='JW_Output')
        return y

model = MyModel()
# 先运行一次初始化变量
_ = model(input_array)

# 保存SavedModel
target_dir = 'savedmodel_test_dir'
if os.path.isdir(target_dir):
    shutil.rmtree(target_dir)
tf.saved_model.save(model, target_dir)

# 转换为TFLite
src_model_file = os.path.join(os.getcwd(), target_dir)
convert = tf.lite.TFLiteConverter.from_saved_model(src_model_file)
convert.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS, tf.lite.OpsSet.SELECT_TF_OPS]
tflite_model = convert.convert()

with open("tf2_dynamic_model.tflite", "wb") as f:
    f.write(tflite_model)

这个方案不仅能解决转换问题，也更符合TensorFlow的现代开发模式，后续维护起来更方便。

方案3：预定义多输入形状（仅适用于已知固定尺寸场景） #

如果你的输入尺寸只有几种固定值，可以在SavedModel中定义多个签名，转换时选择对应形状：

# 在MyModel类中添加多个对应不同尺寸的方法
@tf.function(input_signature=[tf.TensorSpec(shape=(None, 28, 28), dtype=tf.float32, name='JW_Input_28')])
def call_28(self, x):
    return tf.matmul(x, self.W, name='JW_Output')

@tf.function(input_signature=[tf.TensorSpec(shape=(None, 32, 32), dtype=tf.float32, name='JW_Input_32')])
def call_32(self, x):
    return tf.matmul(x, self.W, name='JW_Output')

# 保存时添加多个签名
tf.saved_model.save(model, target_dir, signatures={
    'serving_default': model.__call__,
    '28x28': model.call_28,
    '32x32': model.call_32
})

# 转换时指定对应签名
convert = tf.lite.TFLiteConverter.from_saved_model(src_model_file, signature_key='28x28')

不过这个方法灵活性较差，只适合你能提前枚举所有输入尺寸的情况。

内容的提问来源于stack exchange，提问作者Jinwoo Nam