Jetson Nano 4GB运行COCO数据集Mask R-CNN报错修复及无TensorFlow教程咨询

问题原因判断 #

你遇到的Dst tensor is not initialized报错在Jetson Nano 4GB设备上运行TensorFlow 1.x版Mask R-CNN时，确实是GPU显存不足导致的。
Jetson Nano的显存和系统内存共享，4GB总容量需要同时承载系统运行、桌面环境、框架依赖以及模型加载的开销，原版Mask R-CNN加载COCO预训练权重时的峰值显存需求接近4GB，很容易触发显存不足导致张量初始化失败。

修复方案 #

• 关闭桌面环境释放共享内存：执行命令 sudo systemctl set-default multi-user.target 后重启设备，可释放约1GB的共享内存空间，推理结束后执行 sudo systemctl set-default graphical.target 即可恢复桌面。
• 降低模型输入分辨率：在你定义的InferenceConfig类中新增两项配置，减小输入尺寸降低显存占用：

  class InferenceConfig(coco.CocoConfig):
      GPU_COUNT = 1
      IMAGES_PER_GPU = 1
      # 新增以下两行
      IMAGE_MIN_DIM = 512
      IMAGE_MAX_DIM = 512
  

• 配置TensorFlow显存按需分配：在代码最开头导入模块后添加如下配置，避免TensorFlow启动时预占全部显存：

  import tensorflow as tf
  from keras.backend.tensorflow_backend import set_session
  tf_config = tf.ConfigProto()
  tf_config.gpu_options.allow_growth = True
  set_session(tf.Session(config=tf_config))
  

• 更换为JetPack官方适配的TensorFlow版本，通用PyPI源的TensorFlow没有针对Jetson的共享内存机制做优化，显存占用更高。

无需TensorFlow的Mask R-CNN实现方案 #

• 优先使用PyTorch官方实现：torchvision库内置了COCO预训练的Mask R-CNN模型，仅依赖PyTorch框架，对Jetson设备的适配性更好，内存调度效率比旧版TensorFlow 1.x更高。
• 可使用NVIDIA DeepStream SDK的集成Mask R-CNN插件：DeepStream是专门为Jetson系列优化的硬件加速推理框架，自带预优化的Mask R-CNN实现，显存占用更低、推理速度比原生框架高3倍以上，适合边缘场景部署。

内容的提问来源于stack exchange，提问作者akshay acharya