Docker容器中无法加载libcudart.so.11.0动态库问题求助

问题根源 #

1. 直接挂载本地CUDA库到Python基础镜像中，容器系统缺少CUDA依赖的底层系统库，导致动态链接失败
2. my_service未启用nvidia runtime，GPU相关驱动支持未加载
3. Dockerfile末尾多余的&&会导致构建失败（你可能未注意到）

步骤1：重构Dockerfile #

基于NVIDIA官方CUDA 11.0镜像构建，确保容器内有完整兼容的CUDA环境，无需挂载本地CUDA：

# 使用匹配TensorFlow 2.4.0要求的NVIDIA CUDA镜像
FROM nvidia/cuda:11.0.3-cudnn8-runtime-ubuntu18.04

# 安装Python 3.8（TensorFlow 2.4.0推荐版本）
RUN apt-get update && apt-get install -y --no-install-recommends \
    python3.8 \
    python3-pip \
    curl \
    nano && \
    rm -rf /var/lib/apt/lists/*

# 设置Python 3.8为默认版本
RUN update-alternatives --install /usr/bin/python3 python3 /usr/bin/python3.8 1

# 升级pip至最新版本
RUN python3 -m pip install --upgrade pip

WORKDIR /root/my_dir
COPY requirements.txt ./
RUN pip3 install -r requirements.txt

步骤2：修改docker-compose.yaml #

为my_service启用nvidia runtime，配置GPU资源，移除本地CUDA挂载：

version: '2.2'

services:
  my_service:
    build: .  # 直接构建本地Dockerfile，无需提前手动build镜像
    runtime: nvidia  # 启用nvidia runtime以支持GPU
    environment:
      - NVIDIA_VISIBLE_DEVICES=all
      - LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
      - CUDA_HOME=/usr/local/cuda
    volumes:
      - /root/my_dir:/root/my_dir  # 仅挂载代码目录
    command: ["python3"]
    stdin_open: true
    tty: true
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1  # 按需指定GPU数量，设为0则使用全部可用GPU
              capabilities: [gpu]

  # 可选保留：用于快速验证GPU可用性的服务
  cuda:
    image: nvidia/cuda:11.0.3-devel-ubuntu18.04
    runtime: nvidia
    environment:
      - NVIDIA_VISIBLE_DEVICES=all
    command: nvidia-smi
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

步骤3：验证与测试 #

1. 执行docker-compose build构建镜像
2. 启动容器：docker-compose up -d
3. 进入容器：docker-compose exec my_service bash
4. 测试TensorFlow GPU支持：

import tensorflow as tf
print(tf.test.is_gpu_available())
print(tf.config.list_physical_devices('GPU'))

关键说明 #

• 避免直接挂载本地CUDA到非NVIDIA基础镜像，环境差异会导致库链接失败
• 使用NVIDIA官方runtime镜像，内置了完整的CUDA、cuDNN和依赖库，与TensorFlow版本天然匹配
• 确保nvidia-docker2已正确安装并配置生效

内容的提问来源于stack exchange，提问作者Pasquale Roseti