Python绑定中RPATH传播失效问题排查求助

1. 动态库加载的作用域差异 #

C++应用启动时，整个依赖链的库是进程启动阶段一次性加载的：应用自身的RPATH会被用于查找所有直接/间接依赖的库，包括onnxruntime和CUDA库，依赖树的RPATH会按加载顺序依次生效。

而Python绑定是运行时动态加载的共享库：它的RPATH仅能用于查找自身直接依赖的库（比如你的底层库、onnxruntime）。当onnxruntime内部通过dlopen调用加载CUDA专用后端时，这是一个独立的动态加载操作，默认不会继承Python绑定库的RPATH——因为dlopen默认使用RTLD_LOCAL模式，只会从进程的默认搜索路径（系统库目录、LD_LIBRARY_PATH）查找，不会复用之前加载的共享库的RPATH。

2. RPATH的传播规则限制 #

RPATH是每个共享库的私有属性，仅在加载该库时，用于查找它自己的直接依赖。后续通过dlopen动态加载的新库，不会自动继承已加载库的RPATH。C++应用之所以正常，是因为所有依赖（包括CUDA库）都是在进程启动时通过应用自身的RPATH找到的；而Python场景中，CUDA库是onnxruntime在运行时动态发起加载的，此时没有可用的RPATH指向CUDA目录。

3. onnxruntime的加载逻辑 #

onnxruntime的CUDA后端是延迟加载的，它的dlopen调用默认不会指定自定义搜索路径。官方Python版本之所以用ctypes.CDLL(..., mode=ctypes.RTLD_GLOBAL)预加载CUDA依赖，就是为了提前将CUDA库加载到全局符号表，后续onnxruntimedlopen时会直接复用已加载的库，避免路径查找失败。

方案1：预加载CUDA库（推荐，对齐官方做法） #

在Python代码开头添加预加载逻辑，显式加载CUDA相关库并设置RTLD_GLOBAL：

import ctypes
import os

# 替换为你的CUDA库路径
cuda_lib_path = "/usr/local/cuda/lib64"

# 预加载关键CUDA库
cuda_libs = [
    "libcudart.so",
    "libcublas.so",
    "libcufft.so",
    "libcurand.so"
]

for lib_name in cuda_libs:
    lib_path = os.path.join(cuda_lib_path, lib_name)
    ctypes.CDLL(lib_path, mode=ctypes.RTLD_GLOBAL)

# 之后再导入你的Python绑定库
import your_python_bindings

方案2：设置进程级环境变量 #

启动Python前，将CUDA库路径加入LD_LIBRARY_PATH：

export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
python your_script.py

这种方式全局生效，适合测试场景，但可能影响系统中其他依赖CUDA的程序。

方案3：修改Python绑定库的RPATH #

用patchelf工具给Python绑定库添加CUDA路径的RPATH：

patchelf --set-rpath '$ORIGIN:/usr/local/cuda/lib64' your_python_bindings.so

注：$ORIGIN表示绑定库所在目录，若你的CUDA路径固定，可直接写绝对路径。这种方式让绑定库的RPATH包含CUDA目录，辅助后续依赖查找。

内容的提问来源于stack exchange，提问作者ajc