指定 VCI 规格创建 GPU 计算型实例

弹性容器实例支持指定 VCI 规格来创建 VCI 实例。本文主要介绍指定 VCI 规格创建实例的方法。

使用限制

• 该方式仅适用于 GPU 计算型 弹性容器实例。

  说明

  • 通用型 实例的创建方法，请参见 指定容器 vCPU 和内存创建通用型实例。
  • GPU 计算型 实例，还支持通过指定 GPU 资源创建。详情请参见 指定 GPU 资源创建 GPU 计算型实例。
• GPU 计算型 中每个规格族支持的地域和可用区不同，详情请参见 地域和可用区。

前提条件

• 已创建容器网络模型为 VPC-CNI 的集群。详细操作，请参见 创建 VPC-CNI 容器网络模型的集群。
• 已创建私有网络及其子网。详细操作，请参见 创建私有网络。

Kubernetes 方式创建

创建 Pod 或者工作负载（包括 Deployment、StatefulSet、Job、CronJob）时，通过添加 Annotation，指定 VCI 规格创建实例。

Annotation 说明，如下所示。

不同规格对应的驱动版本

以创建无状态负载（Deployment）为例，完整的示例代码如下所示：

apiVersion: apps/v1
kind: Deployment
metadata:
  name: nginx-deployment
spec:
  replicas: 2
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      annotations:
        vke.volcengine.com/burst-to-vci: enforce  #强制使用 VCI。
        vci.vke.volcengine.com/preferred-instance-types: vci.g1v.8xlarge #指定实例 GPU 规格。
        vci.vke.volcengine.com/gpu-driver-version: tesla-470.129.06 #指定实例的 GPU 驱动。
      labels:
        app: nginx
    spec:
      containers:
        - image: cr-cn-beijing.volces.com/tw/nginx:1.0 # 容器镜像的地址和版本，请配置为您自己的镜像地址。
        imagePullPolicy: Always
        name: nginx
        resources:
          requests:  #指定容器的 vCPU、内存、GPU。
            cpu: "500m"      
            memory: "1024Mi"
            nvidia.com/gpu: 1 #可以同时指定 limit 和 request，但值必须相等。
          limits:
            cpu: "1"      
            memory: "2048Mi"
            nvidia.com/gpu: 1 #指定 container gpu 数量（同原生）。

控制台方式创建

1. 在 VPC-CNI 集群中安装 nvidia-device-plugin 组件。详细操作，请参见 安装组件。
   
2. 创建工作负载 时，配置以下参数：
   1. 配置 基本信息 时：选择 以弹性容器实例方式部署。
      
   2. 配置 容器配置 时：资源配额 处，配置 GPU 资源。
      配置如下图红框中的参数，其中 GPU 资源类型 选择 Nvidia，其余参数按实际需求配置。

      说明

      VCI 场景中暂不支持使用 mGPU 资源类型。

      
   3. 配置 高级配置 时：实例注解 处，添加 Annotation Key：vci.vke.volcengine.com/preferred-instance-types，按需设置 Annotation Value 为您需要的 GPU 计算型规格。
      

创建 GPU 型实例注意事项

1. 分别计算 Pod 的 CPU、内存、GPU 的上限合计数值：
   • CPU 合计数值 = Pod 内 所有 Init 容器的 CPU 上限最大值 和 所有应用容器的 CPU 上限之和 两者中，数值较大者。
   • 内存合计数值 = Pod 内 所有 Init 容器的内存上限最大值 和 所有应用容器的内存上限之和 两者中，数值较大者。
   • GPU 合计数值 = Pod 内 所有 Init 容器的 GPU 上限最大值 和 所有应用容器的 GPU 上限之和 两者中，数值较大者。
   • Pod 内容器未设置 CPU 上限、内存上限、或者 GPU 上限，则该项的限制以 0 计算。
2. 根据 annotation 指定的 value 从 GPU 计算型 中获取对应的 vCPU、内存、GPU 等数值（以下简称规格数值）。
3. 合计数值 与 规格数值 必须符合以下全部条件：
   • Pod.spec.container[].resources.limit.'<vendor>.com/gpu' 中的<vendor>必须与实例规格族 GPU 对应的供应商一致。

     说明

     当前 GPU 显卡为 NVIDIA 显卡。因此<vendor>为nvidia。

   • 合计数值 中的 GPU 取值必须大于 0。
   • 合计数值 中的 CPU、内存、GPU 取值必须都小于或等于规格数值 中的对应数值。

     注意

     合计数值小于规格数值时，将按规格数值创建实例和计费。若 Container 内指定的 GPU 数值小于规格数值可能会造成资源浪费，请合理规划实例规格。