如何在SeldonDeployment CRD中实现多环境可配置HPA及动态变量注入

问题1：为不同环境设置不同的max/min replicas值 #

可以实现，且必须通过修改SeldonDeployment CRD本身的配置（直接修改生成的HPA会被Seldon控制器 reconcile 还原），推荐以下两种方案：

方案1：使用Kustomize #

• 先创建base配置（通用的SeldonDeployment YAML，包含所有环境共享的字段）：

# base/seldon-deployment.yaml
apiVersion: machinelearning.seldon.io/v1
kind: SeldonDeployment
metadata:
  name: seldon-model
spec:
  name: test-deployment
  predictors:
  - componentSpecs:
    - hpaSpec:
        metrics:
        - resource:
            name: cpu
            targetAverageUtilization: 10
          type: Resource
      spec:
        containers:
        - image: seldonio/mock_classifier:1.5.0-dev
          imagePullPolicy: IfNotPresent
          name: classifier
          resources:
            requests:
              cpu: '0.5'
        terminationGracePeriodSeconds: 1
    graph:
      children: []
      name: classifier
      type: MODEL
    name: example

• 为每个环境创建overlay目录，通过patch修改hpaSpec的副本数：
  QA环境的overlay示例：

# overlays/qa/seldon-deployment-patch.yaml
apiVersion: machinelearning.seldon.io/v1
kind: SeldonDeployment
metadata:
  name: seldon-model
spec:
  predictors:
  - componentSpecs:
    - hpaSpec:
        maxReplicas: 3
        minReplicas: 1

Prod环境的overlay示例：

# overlays/prod/seldon-deployment-patch.yaml
apiVersion: machinelearning.seldon.io/v1
kind: SeldonDeployment
metadata:
  name: seldon-model
spec:
  predictors:
  - componentSpecs:
    - hpaSpec:
        maxReplicas: 10
        minReplicas: 2

部署时针对对应环境执行：

kubectl apply -k overlays/qa

方案2：使用Helm模板 #

• 将SeldonDeployment封装为Helm Chart，在templates/seldon-deployment.yaml中使用变量替换副本数：

apiVersion: machinelearning.seldon.io/v1
kind: SeldonDeployment
metadata:
  name: seldon-model
spec:
  name: test-deployment
  predictors:
  - componentSpecs:
    - hpaSpec:
        maxReplicas: {{ .Values.hpa.maxReplicas }}
        minReplicas: {{ .Values.hpa.minReplicas }}
        metrics:
        - resource:
            name: cpu
            targetAverageUtilization: 10
          type: Resource
      spec:
        containers:
        - image: seldonio/mock_classifier:1.5.0-dev
          imagePullPolicy: IfNotPresent
          name: classifier
          resources:
            requests:
              cpu: '0.5'
        terminationGracePeriodSeconds: 1
    graph:
      children: []
      name: classifier
      type: MODEL
    name: example

• 为每个环境创建对应的values文件：
  values-qa.yaml：

hpa:
  maxReplicas: 3
  minReplicas: 1

values-prod.yaml：

hpa:
  maxReplicas: 10
  minReplicas: 2

部署时指定对应环境的values文件：

helm install seldon-model ./seldon-chart -f values-qa.yaml

问题2：基于CRD的部署中注入动态变量 #

通用的实现方案有以下几种：

• Helm模板：这是Kubernetes生态中最常用的动态注入方式，将CRD配置中的可变字段替换为Helm模板变量，通过values文件、命令行参数或环境变量传递值，支持复杂的逻辑判断（比如根据环境切换镜像版本、资源配额等）。
• Kustomize Overlays：通过base配置+环境专属overlay的方式，使用patch、strategic merge等方式修改CRD的特定字段，适合不需要复杂逻辑的差异化配置场景，无需额外模板语法。
• 环境变量替换工具（如envsubst）：在CRD YAML中使用占位符（比如${HPA_MAX_REPLICAS}），部署前用envsubst读取环境变量替换占位符，再应用到集群：

  export HPA_MAX_REPLICAS=3
  envsubst < seldon-deployment.tpl.yaml > seldon-deployment.yaml
  kubectl apply -f seldon-deployment.yaml
  

• 自定义脚本生成：用Python、Shell等脚本读取环境配置文件（如JSON/YAML格式的环境参数），动态生成完整的CRD YAML文件，再执行kubectl apply命令，适合需要高度自定义逻辑的场景。

内容的提问来源于stack exchange，提问作者M.A.K. Simanto