Ubuntu16.04下TensorFlow1.13.1集成TensorRT7报libnvinfer.so.5缺失错误
TensorFlow 1.13.1 与 TensorRT 适配问题解答
错误本质说明
- 报错提示缺失的
libnvinfer.so.5是TensorRT 5.x版本的核心运行时动态库,你当前TensorRT7安装目录仅存在libnvinfer.so.7,问题根源是编译阶段的二进制版本强绑定不匹配,和你已完成的LD_LIBRARY_PATH配置、uff/graphsurgeon whl安装操作没有关联。 - TensorFlow 1.13.1内置的
tensorflow.contrib.tensorrt模块,在官方发布阶段是针对TensorRT 5.1.x版本完成的交叉编译,编译时硬编码了对应版本的动态库查找路径与符号依赖,不会自动适配后续大版本迭代的TensorRT7动态库。
兼容性明确结论
- 确认:TensorFlow 1.13.1官方内置的contrib.tensorrt插件不支持TensorRT 7版本。不存在通过创建软链接替换库文件、修改环境变量实现适配的可行路径——TensorRT7与5.x版本存在不兼容的API、动态库符号断裂变更,就算手动将
libnvinfer.so.7软链接为libnvinfer.so.5,也会在导入阶段触发符号缺失、内存访问类段错误,无法正常运行。 - 更换为适配版本的TensorRT5是该场景下最稳定、最低改动成本的解决方案。
版本落地注意事项
- Ubuntu 16.04环境下与TensorFlow1.13.1完全匹配的TensorRT版本为
TensorRT 5.1.2.2,该版本安装包内自带libnvinfer.so.5动态库,完全匹配contrib.tensorrt的编译依赖。 - 更换TensorRT5后,需要同步替换为对应版本的uff、graphsurgeon whl安装包,不能沿用之前TensorRT7配套的工具链,否则会触发UFF模型解析、序列化阶段的版本不匹配错误。
- 如果确有使用TensorRT7的性能需求,需将TensorFlow升级至2.4及以上版本(该版本开始官方正式支持TensorRT7集成),但该升级链路对现有TensorFlow1.13.1工程的改动量极大,和你当前快速集成提升推理速度的目标不匹配。
内容的提问来源于stack exchange,提问作者Alex Fu
相关产品推荐
相关产品推荐

