如何构建适配A100含TF1/CUDA11等组件的精简Docker镜像

2-3GB的体积预期在包含CUDA 11运行时、TensorFlow 1、PyTorch、OpenCV、JupyterLab全套组件且支持A100（SM80算力）的前提下无法实现：仅CUDA 11 + cuDNN 8的最小运行时解压后就占1.7G左右，叠加四个组件的最小安装体积，合理优化后的极限体积在4-5G区间，远低于你当前使用的NGC全量镜像14.39G的水平。

轻量化基础镜像选择 #

不要直接使用NGC的全量TensorFlow镜像，这类镜像预装了完整CUDA编译工具链、调试工具、示例文档、全量算子预编译包，冗余占比超过60%，优先选以下两类基础镜像：

• 通用场景选nvidia/cuda:11.3.1-cudnn8-runtime-ubuntu20.04，解压后体积约1.8G，仅包含A100运行GPU程序必须的CUDA核心库、cuDNN运行时，无冗余开发组件，适配绝大多数Python依赖的安装要求。注意不要选带devel标签的版本，该版本带完整编译工具链，基础体积就超过4G。
• 追求极致体积选nvidia/cuda:11.3.1-cudnn8-runtime-ubi8-minimal，基于RedHat UBI最小化镜像构建，解压后体积比Ubuntu版本小300M左右，仅需要注意包管理工具为microdnf，安装系统依赖时对应调整命令即可。

镜像体积压缩实操步骤 #

• 依赖安装阶段做最小化选型：
  • TensorFlow 1安装NVIDIA优化的tensorflow==1.15.5+nv22.4版本，原生支持A100 SM80算力，不要安装pip官方源的普通TF1版本，后者未做A100适配会出现运行报错；
  • PyTorch选择对应CUDA11编译的1.10/1.12稳定版，安装时统一加--no-cache-dir参数，避免pip缓存写入镜像层；
  • OpenCV安装opencv-python-headless版本，剔除GUI相关的QT、GTK等系统依赖，单这一项就能减少约1G的冗余系统库安装；
  • JupyterLab安装完成后直接删除nodejs、npm等仅用于扩展构建的依赖，不预装非必要的第三方插件。
• 安装完成后做全量冗余清理：
  所有依赖装完后，执行命令清理apt/microdnf包缓存，删除/usr/local/cuda路径下的doc、sample、gdb调试工具、静态库（*.a）文件，清理Python路径下的test目录、__pycache__缓存文件，这一步可直接砍掉1.5-2G的冗余占用。
• 构建阶段用优化手段减容：
  采用多阶段构建逻辑，第一阶段用devel标签的CUDA镜像完成所有依赖的下载、编译操作，第二阶段仅拷贝运行所需的二进制、库文件到纯runtime基础镜像中，完全隔离编译工具链、临时下载文件；构建时可加--squash参数（需开启Docker实验特性），将所有镜像层合并为单层，删除中间层遗留的无效文件，可再减少500M-1G的体积。

注意：不要尝试在现有14.39G的NGC TF镜像基础上做删改裁剪，这类镜像的冗余文件分散在多个预构建底层中，即使你在后续层执行删除操作，底层的文件依然会计入镜像总大小，压缩率极低，远不如从最小runtime镜像从头构建的效率高。

内容的提问来源于stack exchange，提问作者Viacheslav Nefedov