驱动说明
NVIDIA驱动程序是用来驱动NVIDIA GPU卡的程序，是硬件所对应的软件，用于提升操作系统对其芯片组的兼容性。当前火山引擎提供的GPU实例均为计算型，即GPU卡直通型，实例必须安装GPU驱动来驱动物理GPU卡，以获得GPU卡的能力。
GPU实例当前支持安装以下两种NVIDIA驱动，建议您安装最新版本的驱动：
| 驱动类型 | 驱动介绍 | 收费情况 |
|---|---|---|
| Tesla驱动 | 用于驱动物理GPU卡，即调用GPU云服务器上的GPU卡获得通用计算能力，适用于深度学习、推理、AI等场景。 您可以配合CUDA、cuDNN库更高效的使用GPU卡。 | 免费 |
| GRID驱动 | 用于获得GPU卡的图形加速能力，适用于OpenGL等图形计算的场景。 | 需购买NVIDIA GRID License |
公共镜像安装Tesla驱动
方式一：后台自动安装GPU驱动
您可以在创建GPU实例时，选择常规版的Linux或veLinux镜像，并勾选“后台自动安装GPU驱动”（默认勾选），系统将自动安装指定版本的GPU驱动、CUDA和cuDNN库。
支持的公共镜像及配套的驱动版本如下表所示，不同实例规格支持选择的镜像不同，请以实例创建页面为准。
| GPU驱动 | CUDA 版本 | cuDNN 版本 | 支持的公共镜像 | 支持的GPU实例规格族 | 是否已安装Fabric Manager |
|---|---|---|---|---|---|
535.129.03 | 12.2.2 | 8.9.7.29 |
|
| 是 |
535.129.03 | 12.1.0 | 8.9.7.29 |
|
| 是 |
535.129.03 | 11.8.0 | 8.9.7.29 | Ubuntu 18.04 |
| 是 |
470.161.03 | 11.4.1/11.4.0 | 8.7.0.84 |
说明 除Ubuntu 22.04配套的CUDA版本为11.4.1之外，其余镜像均为11.4.0。 |
| 是 |
470.129.06 | 11.4.1/11.4.0 | 8.7.0.84 |
说明 除Ubuntu 22.04配套的CUDA版本为11.4.1之外，其余镜像均为11.4.0。 |
| 是 |
说明
- 火山引擎提供的GPU实例请参见实例规格介绍。
- 如果您在GPU驱动未完成安装前停止或重启实例，导致安装中断，启动后的实例不带GPU驱动，且不再继续安装。
- 若您使用开启了“后台自动安装GPU驱动”的实例创建自定义镜像，则该镜像中包含GPU驱动、CUDA和cuDNN库。
- 为自动安装了GPU驱动的实例更换操作系统时，若您开启“后台自动安装GPU驱动”，系统将会重新安装GPU驱动。
- veLinux是字节跳动推出的自研Linux操作系统，详情请参考veLinux概述。
- 若默认的驱动版本无法再满足您的业务需求，您可以卸载NVIDIA驱动后，手动安装GPU驱动和安装CUDA工具包。
方式二：使用预装GPU驱动的GPU版镜像
GPU版公共镜像中默认安装了GPU驱动，镜像列表如下所示。不同实例规格支持选择的镜像略有不同，请以实例创建页面为准。
说明
为您提供的GPU版Linux公共镜像中默认已安装GPU驱动，CUDA则需要您在创建实例后登录实例内部自行安装，请参考安装CUDA工具包。
| 公共镜像名称 | 适用规格族 | GPU驱动版本（默认安装） | 适配CUDA版本（自行安装） | 是否已安装Fabric Manager |
|---|---|---|---|---|
CentOS 8.3 with GPU Driver 535.161.08 and doca 64 bit |
| Tesla 535.161.08 | 12.2 | 是 |
CentOS 7.8 with GPU Driver 535.129.03 and mlx 5.8-3 64位 |
| Tesla 535.129.03 | 12.2 | 是 |
CentOS 7.8 with GPU Driver 470.161.03 64位 |
| Tesla 470.161.03 | 11.4 | 是 |
CentOS 7.8 with GPU Driver 470.129.06 64位 |
| Tesla 470.129.06 | 11.4 | 是 |
Ubuntu 22.04 with GPU Driver 535.161.08 and doca 64 bit |
| Tesla 535.161.08 | 12.2 | 是 |
Ubuntu 20.04 with GPU Driver 535.161.08 and doca 64 bit |
| Tesla 535.161.08 | 12.2 | 是 |
Ubuntu 20.04 with GPU Driver 535.129.03 and mlx 5.8-3 64位 |
| Tesla 535.129.03 | 12.2 | 是 |
Ubuntu 20.04 with GPU Driver 470.161.03 64位 |
| Tesla 470.161.03 | 11.4 | 是 |
Ubuntu 20.04 with GPU Driver 470.129.06 64位 |
| Tesla 470.129.06 | 11.4 | 是 |
Ubuntu 18.04 with GPU Driver 470.161.03 64位 |
| Tesla 470.161.03 | 11.4 | 是 |
Ubuntu 18.04 with GPU Driver 470.129.06 64位 |
| Tesla 470.129.06 | 11.4 | 是 |
Debian 10 with GPU Driver 535.129.03 and mlx 5.8-3 64位 |
| Tesla 535.129.03 | 12.2 | 是 |
Debian 10 with GPU Driver 470.161.03 64位 |
| Tesla 470.161.03 | 11.4 | 是 |
Debian 10 with GPU Driver 470.129.06 64位 |
| Tesla 470.129.06 | 11.4 | 是 |
Rocky Linux 8.8 with GPU Driver 535.161.08 and doca 64 bit |
| Tesla 535.161.08 | 12.2 | 是 |
公共镜像安装GRID驱动
如果您的GPU实例需要支持OpenGL等图形显示时，您需要购买并激活NVIDIA官方发布的GRID License，以获得完整的图形能力。
您可以使用平台提供的、安装了GRID驱动的公共镜像创建GPU渲染型实例，免除GRID驱动的安装和激活操作。可选择的公共镜像如下所示，不同实例规格支持选择的镜像略有不同，请以实例创建页面为准。
| 公共镜像名称 | 适用规格族 | GRID驱动版本（默认安装） |
|---|---|---|
| Ubuntu 20.04 with GRID 13.1 | GPU渲染型 | 13.1 |
| veLinux 1.0 with GRID 13.1 | GPU渲染型 | 13.1 |
| Windows Server 2022 数据中心版 with GRID 13.1 | GPU渲染型 | 13.1 |
| Windows Server 2019 数据中心版 with GRID 13.1 | GPU渲染型 | 13.1 |
| Windows Server 2016 数据中心版 with GRID 13.1 | GPU渲染型 | 13.1 |
自定义镜像安装GPU驱动或GRID驱动
若您使用自定义镜像，请您首先确认已卸载不符合需求的NVIDIA驱动，而后自行在实例上安装GPU驱动或者GRID驱动等，可参考以下文档。
卸载驱动：
- Tesla驱动：卸载GPU驱动和CUDA工具包、卸载NVIDIA-Fabric Manager软件包
- GRID驱动：卸载NVIDIA GRID驱动
安装驱动：
- Tesla驱动：安装GPU驱动、安装CUDA工具包、安装NVIDIA-Fabric Manager软件包
- GRID驱动：安装NVIDIA GRID驱动