BigQuery性能下降时出现504 Gateway Timeout问题求助

1. Ingress Controller 超时配置过短 #

生产环境中前端请求需经过Kubernetes Ingress Controller（如NGINX Ingress）转发到service_1，若Ingress的proxy-read-timeout等超时参数设置小于2-3分钟，会在service_1准备返回结果前提前断开连接，触发504错误。本地测试无需经过Ingress，因此不受此限制。

2. Undertow 服务器超时配置不足 #

service_1使用的Undertow服务器若默认连接/请求超时设置过短，在高峰时段（服务器资源紧张、线程排队）会导致连接被提前中断，即使service_1已拿到响应，也无法返回给前端。

3. Kubernetes 资源瓶颈（间接因素） #

高峰时段service_1的Pod可能因CPU/内存资源不足，导致请求处理线程被阻塞，进一步拉长响应时间，触发上游组件（如Ingress）的超时阈值。

1. 调整 Ingress Controller 超时配置 #

若使用NGINX Ingress，在Ingress资源中添加超时注解，确保超时时间覆盖BigQuery的响应时长：

apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:
  annotations:
    nginx.ingress.kubernetes.io/proxy-read-timeout: "240"  # 设置为4分钟，大于2-3分钟的处理时间
    nginx.ingress.kubernetes.io/proxy-send-timeout: "240"
    nginx.ingress.kubernetes.io/proxy-connect-timeout: "60"
  # 其他metadata配置
spec:
  # 其他spec配置

更新Ingress后，在高峰时段验证请求是否仍出现504错误。

2. 优化 Undertow 服务器配置 #

在service_1的application.yml中添加Undertow超时及资源配置，避免连接提前中断：

server:
  undertow:
    # 调整线程数，应对高峰流量
    worker-threads: 200
    io-threads: 20
    connections:
      # 设置连接超时为5分钟，覆盖BigQuery响应时长
      timeout: 300000
    server-options:
      # 设置连接空闲超时为5分钟
      CONNECTION_IDLE_TIMEOUT: 300000
    servlet:
      session:
        timeout: 3600s

3. 扩容或调整 Pod 资源限制 #

检查service_1的Pod资源请求/限制配置，若高峰时段CPU/内存使用率过高，增加资源配额或扩容实例数量，避免因资源瓶颈导致处理延迟：

resources:
  requests:
    cpu: "1"
    memory: "2Gi"
  limits:
    cpu: "2"
    memory: "4Gi"

4. 改为异步请求模式（长期优化） #

针对BigQuery的慢响应场景，将同步HTTP请求改为异步处理，从根本上避免超时问题：

• service_1收到前端请求后，立即返回一个唯一任务ID，同时后台启动异步流程等待service_2的响应
• 前端通过轮询或WebSocket定期查询任务状态，待结果就绪后再渲染内容

内容的提问来源于stack exchange，提问作者Shivam Verma