Jetson Nano将TF2目标检测模型转TF-TRT报file too short错误求解
问题解答
1. TF模型转TF-TRT的流程正确性判断
- 整体转换流程符合官方规范,但存在两处会导致转换失败的参数错误:
- 输入张量形状错误:SSD Mobilenet V2的输入维度为
(batch_size, height, width, 3),你代码中生成的输入是(1, 1, 320, 320, 3),多了一个冗余维度,会导致engine构建阶段形状不匹配,转换流程异常中断 - 显存工作区设置过大:你设置的
max_workspace_size_bytes=(1<<32)对应4GB显存,而Jetson Nano的可用显存不到4GB,转换阶段容易触发显存溢出,导致模型文件保存不完整
- 输入张量形状错误:SSD Mobilenet V2的输入维度为
- 注释行的
maximum_cached_engiens存在拼写错误(应为engines),但因为是注释状态,不影响转换流程。
2. TF-TRT优化模型的加载方式正确性判断
- 加载方式完全正确,
tf.saved_model.load是TensorFlow官方指定的SavedModel格式加载接口,TF-TRT优化后的模型仍遵循标准SavedModel规范,该调用方式没有问题。 - 本次报错和加载逻辑无关,问题根源是转换阶段生成的模型文件本身损坏。
3. 报错解决方案
file is too short to be an sstable错误本质是转换过程异常中断,导致模型的变量检查点文件保存不完整,可按以下步骤修复:
- 修正输入张量形状:将输入生成代码改为
inp1 = np.random.normal(size=(1, 320, 320, 3)).astype(np.uint8) - 调小工作区显存配置:将
max_workspace_size_bytes改为1<<28(对应256MB),适配Jetson Nano的显存限制 - 转换前清空输出目录:每次运行转换脚本前,先删除已有的
trt_saved_model目录,避免残留的不完整文件干扰 - 调整build阶段的运行次数:将
num_runs改为2~3,覆盖可能的动态输入场景,保证TRT engine构建完整 - 转换阶段关注终端输出,确认没有OOM、形状不匹配等报错后,再执行模型加载逻辑
内容的提问来源于stack exchange,提问作者Mohamed Thasin ah
相关产品推荐
相关产品推荐

