AWS上两类Kubernetes集群LoadBalancer服务访问极慢求助

嘿，这个问题我在AWS上折腾K8s集群的时候刚好碰到过！结合你说的“首次通过LoadBalancer访问慢10秒，后续请求速度大幅提升”的现象，大概率是AWS负载均衡器的特性或者K8s Service配置的小问题，给你拆解几个排查和解决的方向：

1. 优先排查AWS LB的冷连接回收问题 #

AWS的Network Load Balancer（NLB）或者Classic Load Balancer，在长时间没有流量时会自动回收闲置的后端连接。当第一个请求进来时，LB需要重新建立到K8s Node的连接，这个过程会产生几秒的延迟——这完全符合你“首次慢、后续快”的表现。

解决办法： #

• 给K8s Service配置Local流量策略：
  在Service的YAML里添加externalTrafficPolicy: Local，这样LB会直接把流量转发到运行目标Pod的Node上，跳过kube-proxy的SNAT转发，既减少了一层延迟，也能让LB更高效地维持连接：

  apiVersion: v1
  kind: Service
  metadata:
    name: hello-world-service
  spec:
    type: LoadBalancer
    externalTrafficPolicy: Local
    selector:
      app: hello-world
    ports:
      - port: 80
        targetPort: 80
  

• 配置LB连接空闲超时：
  通过K8s Service注解设置AWS LB的连接空闲超时（默认是60秒，改成300秒能减少闲置连接回收的频率）：

  metadata:
    annotations:
      service.beta.kubernetes.io/aws-load-balancer-connection-idle-timeout: "300"
  

  如果是用Rancher平台，也可以在创建Service时直接在UI里找到“连接空闲超时”的配置项，不用手动写注解。

2. 检查DNS解析延迟 #

首次请求慢也可能是客户端本地DNS缓存未命中导致的——浏览器第一次访问LB域名时，需要从DNS服务器获取解析记录，这个过程可能耗时1-10秒不等，后续请求会用本地缓存就快了。

排查&解决： #

• 用dig命令测试解析耗时：

  dig <你的LB域名>
  

  看输出里的Query time，第一次查询如果超过1秒，那DNS就是问题之一。
• 解决办法：可以把LB域名加到客户端本地DNS缓存，或者用AWS Route53配置一个自定义域名，提前通过工具预热DNS解析。

3. 验证Pod和Service的健康检查配置 #

虽然你说后续请求正常，但还是要确认Pod的就绪探针配置是否正确——如果LB把流量转发到还没完全启动的Pod，也会导致首次请求慢。

建议的就绪探针配置： #

apiVersion: apps/v1
kind: Deployment
metadata:
  name: hello-world-deployment
spec:
  replicas: 2
  selector:
    matchLabels:
      app: hello-world
  template:
    metadata:
      labels:
        app: hello-world
    spec:
      containers:
      - name: hello-world
        image: hello-world
        ports:
        - containerPort: 80
        readinessProbe:
          httpGet:
            path: /
            port: 80
          initialDelaySeconds: 5
          periodSeconds: 10
        livenessProbe:
          httpGet:
            path: /
            port: 80
          initialDelaySeconds: 5
          periodSeconds: 10

4. 针对两套集群的额外提示 #

• Heptio Kubernetes Quick Start集群：默认的LB配置可能没有开启连接超时优化，手动添加上面提到的Service注解就能解决；
• RancherOS+Rancher集群：在Rancher UI里创建LoadBalancer Service时，直接在“负载均衡器配置”里找到“连接空闲超时”选项，设置为300秒即可，比手动写YAML更直观。

验证方法 #

用curl连续测试几次请求，记录每次的耗时，确认是不是只有第一次慢：

for i in {1..5}; do curl -w "第$i次请求耗时：%{time_total}秒\n" http://<你的LB域名>; done

内容的提问来源于stack exchange，提问作者tporeba