含动态输入形状的ONNX模型转TensorFlow报错的原因与解决方法

环境版本：

• TensorFlow 2.11.0
• ONNX 1.13.0
• onnx_tf 1.10.0

模型输入说明：

• 1个形状为(1, None)的动态输入数组
• 2个形状为(2,1,64)的固定形状数组

运行以下代码时，最后一行tf_rep.export_graph(...)报错：

ValueError: Cannot take the length of shape with unknown rank

代码示例：

# Imports
import onnx
from onnx import version_converter
import os
from onnx_tf.backend import prepare

# load onnx model
model_dir = r'model\vad'
model_name = 'vad.onnx'
onnx_model = onnx.load(os.path.join(model_dir,'onnx', model_name))  # load onnx model

# Export to Tensorflow
os.makedirs(os.path.join(model_dir ,'tensorflow'), exist_ok=True)
tf_rep = prepare(onnx_model)  # prepare tf representation
tf_rep.export_graph(os.path.join(model_dir,'tensorflow','vad'))  # export the model

报错原因 #

• onnx-tf在部分旧版本中，对ONNX模型里未显式声明rank的动态输入处理存在缺陷。当动态输入仅用None标注维度，但未明确固定张量的rank时，TensorFlow解析过程中无法确定形状的长度，从而触发该错误。
• 你的模型中(1, None)的输入，大概率在ONNX定义里没有明确指定rank，导致转换时TensorFlow无法识别其形状结构。

解决方法 #

方法1：显式指定ONNX模型输入的rank和动态维度 #

修改ONNX模型的输入定义，明确标注输入的rank和动态维度位置，代码示例如下：

# 在加载模型后添加以下代码，修正输入形状定义
from onnx import helper

# 遍历模型输入
for input_tensor in onnx_model.graph.input:
    # 替换为你的动态输入名称
    if input_tensor.name == "动态输入的名称":
        # 明确设置形状：第一个维度固定为1，第二个维度为动态
        shape_proto = helper.make_tensor_shape_proto([1, None])
        input_tensor.type.tensor_type.shape.CopyFrom(shape_proto)

# 可选：保存修改后的模型，方便后续复用
onnx.save(onnx_model, os.path.join(model_dir, 'onnx', 'vad_fixed.onnx'))

之后使用修改后的模型执行转换流程。

方法2：升级onnx-tf版本 #

onnx-tf后续版本（如1.15及以上）对动态形状的兼容性有明显优化，可尝试升级到适配TensorFlow 2.11的兼容版本：

pip install --upgrade onnx-tf

注意：升级前确认版本兼容性，避免与现有TensorFlow、ONNX版本发生冲突。

方法3：转换时临时指定固定输入形状 #

如果不需要保留动态性，可在调用prepare时通过input_shapes参数显式指定动态输入的具体形状（适合测试场景）：

# 替换为你的动态输入名称，指定一个具体形状比如(1, 100)
tf_rep = prepare(onnx_model, input_shapes={"动态输入的名称": [1, 100]})

该方法会将动态输入固定为指定形状，仅适用于不需要动态推理的场景。

内容的提问来源于stack exchange，提问作者Valeria Mordoh