配置K8s Service与Deployment实现Pod响应超时请求重试

首先得明确：Kubernetes原生的Service本身不具备基于HTTP响应时间的智能路由/流量剔除能力，我们需要结合Pod健康检查+高级Ingress控制器/服务网格的功能来实现这个需求。下面分场景给出具体配置方案：

一、基础版：基于探针的Pod就绪状态剔除（原生K8s能力） #

如果你的需求是当Pod对健康检查请求的响应超时超过n秒时，自动停止向该Pod转发流量，可以通过配置**就绪探针（Readiness Probe）**实现。当探针检测到超时，K8s会标记该Pod为未就绪，Service会自动跳过它。

修改后的Deployment配置 #

apiVersion: apps/v1
kind: Deployment
metadata:
  name: nginx-deployment
spec:
  replicas: 4
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      labels:
        app: nginx
    spec:
      containers:
      - image: nginx
        name: nginx
        ports:
        - containerPort: 80
        # 就绪探针：控制Pod是否被纳入Service的负载均衡池
        readinessProbe:
          httpGet:
            path: /
            port: 80
          timeoutSeconds: n  # 这里设置你的超时阈值n秒
          periodSeconds: 5   # 每5秒执行一次检查
          failureThreshold: 2 # 连续2次失败就标记为未就绪
        # 存活探针：超时严重时自动重启Pod
        livenessProbe:
          httpGet:
            path: /
            port: 80
          timeoutSeconds: n
          periodSeconds: 10
          failureThreshold: 3
        restartPolicy: Always
---
apiVersion: v1
kind: Service
metadata:
  name: nginx-service
spec:
  type: NodePort
  ports:
  - port: 80
    nodePort: 30001
    name: server
  selector:
    app: nginx

二、进阶版：基于实际业务请求的响应时间剔除（用Nginx Ingress） #

如果需要针对用户实际业务请求的响应时间做判断（而非探针请求），原生能力就不够了，这时候可以用支持高级流量管理的Nginx Ingress Controller，通过配置实现慢Pod自动剔除。

1. 配置Ingress资源 #

apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:
  name: nginx-ingress
  annotations:
    # 自定义Nginx配置：针对后端Pod设置响应时间阈值
    nginx.ingress.kubernetes.io/server-snippet: |
      upstream nginx-backend {
        server nginx-service:80;
        zone nginx-backend 64k;
        # 当Pod连续3次请求超时/失败，30秒内不再转发流量
        max_fails: 3;
        fail_timeout: 30s;
        # 结合监控可扩展响应时间阈值（需额外配置Nginx的slowlog）
      }
    # 设置全局代理超时
    nginx.ingress.kubernetes.io/proxy-read-timeout: "{{n * 1000}}"
    nginx.ingress.kubernetes.io/proxy-send-timeout: "{{n * 1000}}"
spec:
  ingressClassName: nginx
  rules:
  - http:
      paths:
      - path: /
        pathType: Prefix
        backend:
          service:
            name: nginx-service
            port:
              number: 80

三、高级版：精细化流量控制（用Istio服务网格） #

如果需要更复杂的策略（比如基于响应时间百分比的流量切换、动态调整阈值），可以使用Istio这类服务网格，通过DestinationRule配置异常实例剔除规则。

示例Istio配置 #

# 定义后端服务的异常检测策略
apiVersion: networking.istio.io/v1alpha3
kind: DestinationRule
metadata:
  name: nginx-destination
spec:
  host: nginx-service
  trafficPolicy:
    outlierDetection:
      # 当Pod连续5次请求响应超时超过n秒，剔除15分钟
      consecutive5xxErrors: 5
      interval: 10s
      baseEjectionTime: 15m
      maxEjectionPercent: 50 # 最多剔除50%的Pod
      # 自定义响应时间阈值（需结合Istio的监控指标）
      detectionInterval: 5s
      maxServerErrors: 3

关键说明 #

1. 原生Service仅能基于Pod的就绪状态转发流量，所以基础方案必须依赖Readiness Probe；
2. 若要针对实际业务请求的响应时间做判断，必须借助Ingress控制器或服务网格的高级流量管理能力；
3. 超时阈值n需要根据业务场景调整，注意不同组件的时间单位（比如Ingress常用毫秒，探针用秒）。

内容的提问来源于stack exchange，提问作者category