You need to enable JavaScript to run this app. Jetson Nano将TF2目标检测模型转TF-TRT报file too short错误求解
优惠活动
大模型
产品
解决方案
定价
更多

Jetson Nano将TF2目标检测模型转TF-TRT报file too short错误求解

问题解答

1. TF模型转TF-TRT的流程正确性判断

  • 整体转换流程符合官方规范,但存在两处会导致转换失败的参数错误:
    • 输入张量形状错误:SSD Mobilenet V2的输入维度为(batch_size, height, width, 3),你代码中生成的输入是(1, 1, 320, 320, 3),多了一个冗余维度,会导致engine构建阶段形状不匹配,转换流程异常中断
    • 显存工作区设置过大:你设置的max_workspace_size_bytes=(1<<32)对应4GB显存,而Jetson Nano的可用显存不到4GB,转换阶段容易触发显存溢出,导致模型文件保存不完整
  • 注释行的maximum_cached_engiens存在拼写错误(应为engines),但因为是注释状态,不影响转换流程。

2. TF-TRT优化模型的加载方式正确性判断

  • 加载方式完全正确,tf.saved_model.load是TensorFlow官方指定的SavedModel格式加载接口,TF-TRT优化后的模型仍遵循标准SavedModel规范,该调用方式没有问题。
  • 本次报错和加载逻辑无关,问题根源是转换阶段生成的模型文件本身损坏。

3. 报错解决方案

file is too short to be an sstable错误本质是转换过程异常中断,导致模型的变量检查点文件保存不完整,可按以下步骤修复:

  • 修正输入张量形状:将输入生成代码改为
    inp1 = np.random.normal(size=(1, 320, 320, 3)).astype(np.uint8)
    
  • 调小工作区显存配置:将max_workspace_size_bytes改为1<<28(对应256MB),适配Jetson Nano的显存限制
  • 转换前清空输出目录:每次运行转换脚本前,先删除已有的trt_saved_model目录,避免残留的不完整文件干扰
  • 调整build阶段的运行次数:将num_runs改为2~3,覆盖可能的动态输入场景,保证TRT engine构建完整
  • 转换阶段关注终端输出,确认没有OOM、形状不匹配等报错后,再执行模型加载逻辑

内容的提问来源于stack exchange,提问作者Mohamed Thasin ah

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.10.10 20:57:01