能否在Jetson开发板上不使用TensorRT运行普通TensorFlow目标检测模型

• 第一个问题的答案是可以。对应仓库提供的推理图本身就是标准TensorFlow原生格式，你完全可以跳过转TensorRT格式的步骤，直接用Jetson上安装的原生TensorFlow加载运行。只是没有TensorRT的优化加持，推理速度会慢很多，显存占用也更高，运行大参数量模型时性能差距会非常明显。
• 第二个问题的答案也是可以。你不需要依赖TensorRT就能正常运行TensorFlow Object Detection API，只需要在Jetson开发板上安装好匹配版本的TensorFlow，以及API依赖的各类配套库（比如Protobuf、Python图像处理库等），就能直接用原生TensorFlow加载模型执行检测任务。缺点同样是推理性能比经过TensorRT优化的版本差不少，不适合对实时性要求高的场景。

内容的提问来源于stack exchange，提问作者Sachin Mohan