如何在无GPU主机的Docker容器中获取CUDA库完成应用构建

你遇到的核心问题是：构建阶段需要链接libcuda.so、libnvidia-ml.so等CUDA相关库，但这些库默认仅在启用nvidia runtime并挂载GPU的容器中可用，而CPU主机无法提供GPU硬件。以下是几种可行的解决方法：

方案1：利用CUDA开发镜像的Stub库完成链接 #

nvidia官方提供的nvidia/cuda系列devel镜像（例如nvidia/cuda:12.2.0-devel-ubuntu22.04）内置了完整的CUDA Toolkit开发文件，其中包含专门用于编译链接的Stub库（仅作为链接占位符，不提供实际GPU运行能力），路径为/usr/local/cuda/lib64/stubs/。

具体操作 #

1. 构建阶段的Dockerfile使用devel镜像作为基础：

   FROM nvidia/cuda:12.2.0-devel-ubuntu22.04 AS builder
   # 安装依赖、复制代码等步骤
   

2. 编译时将Stub库路径加入链接器搜索路径：
   • 直接在编译命令中指定参数：

     gcc your_source.c -o your_app -L/usr/local/cuda/lib64/stubs -lcuda -lnvidia-ml
     

   • 或者通过环境变量全局设置：

     export LDFLAGS="-L/usr/local/cuda/lib64/stubs"
     export LD_LIBRARY_PATH="/usr/local/cuda/lib64/stubs:$LD_LIBRARY_PATH"
     # 执行编译命令，如make、cmake等
     

3. 构建完成后，将生成的二进制文件复制到GPU主机的测试环境即可，运行时会自动加载实际的CUDA驱动库。

方案2：在CPU主机安装nvidia-container-toolkit并启用nvidia runtime #

如果你的CPU主机允许安装额外组件，可以通过以下方式让容器获取CUDA库：

1. 在CPU主机上安装nvidia-container-toolkit（无需GPU硬件，仅需对应操作系统的支持）
2. 运行构建容器时添加--runtime=nvidia参数，此时容器会自动挂载CUDA Stub库，构建流程与GPU主机完全一致，无需修改编译命令。

方案3：手动复制Stub库到基础镜像 #

若不想使用devel镜像，可手动提取Stub库并添加到构建镜像中：

1. 从nvidia/cuda:xx.x.x-devel-xxx镜像中复制/usr/local/cuda/lib64/stubs/下的libcuda.so.1、libnvidia-ml.so.1等文件到你的构建镜像指定目录（如/opt/cuda-stubs/）
2. 将该目录添加到链接器搜索路径或LD_LIBRARY_PATH环境变量中，确保编译时能找到这些库。

注意事项 #

• 确保Stub库的CUDA版本与测试主机的GPU驱动版本兼容，避免运行时出现版本不匹配错误
• 构建阶段仅需Stub库完成链接，无需实际GPU硬件，最终产物复制到GPU主机后即可正常测试

内容的提问来源于stack exchange，提问作者McAngus