Kubernetes水平扩缩容时未就绪Pod接收流量故障求助

针对HPA扩容时未就绪Pod仍被Nginx Ingress转发流量的问题，结合你使用ClusterIP Service和Nginx Ingress Controller的场景，以下是常见原因及对应解决办法：

1. Nginx Ingress Controller端点同步延迟 #

Nginx Ingress默认按周期同步K8s端点列表（默认10s），HPA快速扩容时，未就绪Pod虽已被Service排除，但Ingress Controller的缓存可能未及时更新，导致流量仍转发至无效Pod。

• 调整同步周期：在Nginx Ingress Controller的Deployment中添加--sync-period=5s参数，缩短端点同步间隔。
• 启用EndpointSlice：确保Controller版本支持EndpointSlice，添加--enable-endpointslices=true参数，利用EndpointSlice的实时更新通知机制提升同步效率。

2. Service会话保持导致流量粘连 #

若Service配置了ClientIP类型的会话保持，客户端首次请求绑定的Pod即使变为未就绪，后续请求仍会被转发至该Pod。

• 关闭不必要的会话保持：修改Service配置，将sessionAffinity设为None：

apiVersion: v1
kind: Service
metadata:
  name: your-service-name
spec:
  sessionAffinity: None
  # 其他原有配置

3. Nginx Upstream未及时剔除无效端点 #

Nginx Ingress生成的Upstream配置可能存在更新延迟，尤其是大量Pod扩容时，未就绪Pod的地址仍保留在Upstream列表中。

• 启用动态配置：若Controller版本支持，添加--enable-dynamic-configuration参数，实现Upstream的动态更新，无需重载整个Nginx配置。
• 配置请求重试：在Ingress的annotations中添加重试规则，让Nginx在请求失败时自动切换到可用Pod：

apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:
  name: your-ingress-name
  annotations:
    nginx.ingress.kubernetes.io/proxy-next-upstream: "error timeout invalid_header http_500 http_502 http_503 http_504"
    nginx.ingress.kubernetes.io/proxy-next-upstream-tries: "3"

4. K8s端点控制器/Proxy同步延迟 #

kube-proxy或Endpoint控制器可能存在延迟，未及时将未就绪Pod从Service端点列表中移除，导致Nginx获取到无效Pod地址。

• 优化就绪探针配置：确保failureThreshold和periodSeconds设置合理，避免Pod被误判为就绪，示例配置：

readinessProbe:
  httpGet:
    path: /healthz
    port: 8080
  initialDelaySeconds: 5
  periodSeconds: 3
  failureThreshold: 2

• 切换至IPVS模式：若当前使用iptables模式的kube-proxy，切换为IPVS模式可提升端点更新速度，减少同步延迟。

内容的提问来源于stack exchange，提问作者Ayush Garg