TensorFlow无法找到TensorRT的问题排查求助

环境信息 #

• 系统：Ubuntu 22.04
• TensorFlow版本：2.16.1
• TensorRT版本：10.0.0b6

问题现象 #

导入TensorFlow时触发以下警告：

W tensorflow/compiler/tf2tensorrt/utils/py_utils.cc:38] TF-TRT Warning: Could not find TensorRT

已配置的环境变量（~/.bashrc） #

## Python
export PYTHONPATH=${PYTHONPATH}:${HOME}:/usr/lib/python3/dist-packages:/home/belal/.local/lib/python3.10/site-packages
export PATH="/usr/local/bin:/home/belal/.local/bin:$PATH"
export PYTHONWARNINGS="ignore:Unverified HTTPS request"

## Exports
export LD_LIBRARY_PATH=/usr/local/lib:/usr/lib

## CUDA
export CUDA_PATH=/usr/local/cuda
export PATH=$CUDA_PATH/bin:$PATH
export LD_LIBRARY_PATH=$CUDA_PATH/lib64:$LD_LIBRARY_PATH
## CUDNN
export CUDNN_PATH=/home/belal/.local/lib/python3.10/site-packages/nvidia/cudnn
export LD_LIBRARY_PATH=$CUDNN_PATH/lib:$LD_LIBRARY_PATH
export TF_ENABLE_ONEDNN_OPTS=0
## TensorRT
export LD_LIBRARY_PATH=/usr/lib/python3.10/dist-packages/tensorrt:$LD_LIBRARY_PATH
export LD_LIBRARY_PATH=/home/belal/.local/lib/python3.10/site-packages/tensorrt_libs:$LD_LIBRARY_PATH

当前LD_LIBRARY_PATH包含的TensorRT相关路径：

/home/belal/.local/lib/python3.10/site-packages/tensorrt_libs:
/usr/lib/python3.10/dist-packages/tensorrt:
/home/belal/.local/lib/python3.10/site-packages/nvidia/cudnn/lib:
/usr/local/cuda/lib64:
/usr/local/lib:
/usr/lib

已尝试的解决方案 #

• GitHub TensorFlow项目相关Issue
• Stack Overflow相关问题
• TensorFlow官方论坛相关讨论

解决方案建议 #

1. 确认TensorRT核心库存在 #

检查配置路径下是否有TensorRT核心库文件（如libnvinfer.so、libnvinfer_plugin.so等）：

ls /home/belal/.local/lib/python3.10/site-packages/tensorrt_libs/
ls /usr/lib/python3.10/dist-packages/tensorrt/

若缺少核心库，说明TensorRT安装不完整，需重新安装对应版本。

2. 调整LD_LIBRARY_PATH顺序 #

将TensorRT路径移到CUDA路径之前，避免系统优先加载不兼容的库。修改.bashrc中的配置顺序：

## TensorRT
export LD_LIBRARY_PATH=/usr/lib/python3.10/dist-packages/tensorrt:$LD_LIBRARY_PATH
export LD_LIBRARY_PATH=/home/belal/.local/lib/python3.10/site-packages/tensorrt_libs:$LD_LIBRARY_PATH

## CUDA
export CUDA_PATH=/usr/local/cuda
export PATH=$CUDA_PATH/bin:$PATH
export LD_LIBRARY_PATH=$CUDA_PATH/lib64:$LD_LIBRARY_PATH

修改后执行source ~/.bashrc生效，再重新导入TensorFlow测试。

3. 验证版本兼容性 #

TensorFlow 2.16.1对TensorRT版本有明确要求，确认10.0.0b6是否在兼容范围内。若版本不匹配，更换为官方文档标注的兼容版本（如TensorRT 8.6.x或9.x系列）。

4. 更换TensorRT安装方式 #

若当前是通过pip安装的TensorRT，尝试从NVIDIA官网下载Ubuntu 22.04对应的deb/tar安装包，采用系统级安装方式，将库文件放置到/usr/local/lib等标准路径，并更新LD_LIBRARY_PATH指向该路径。

5. 检查Python环境一致性 #

执行以下命令确认当前Python环境与配置的python3.10一致：

which python
python --version

确保TensorFlow和TensorRT都安装在同一个Python环境中，避免虚拟环境导致路径不匹配。

内容的提问来源于stack exchange，提问作者Bilal