Kubernetes中长耗时REST API请求无返回问题求助

针对你在GKE Autopilot集群中遇到的长请求无响应问题，以下是具体的排查方向和解决步骤：

1. 修正GKE Ingress负载均衡器的超时设置 #

GKE默认的HTTP(S) Load Balancer后端服务超时为300秒（5分钟），这是14分钟请求被中断的核心原因——即便你的Service配置了2700秒超时，负载均衡器会在5分钟后主动断开连接，导致客户端收不到后续响应。

解决方法：

• 创建BackendConfig资源定义超时：

apiVersion: cloud.google.com/v1
kind: BackendConfig
metadata:
  name: long-request-backend-config
spec:
  timeoutSec: 2700  # 与服务超时保持一致，单位为秒

• 将该配置关联到NodePort Service，在Service的annotations中添加：

annotations:
  cloud.google.com/backend-config: '{"default": "long-request-backend-config"}'

• 重新部署Service和Ingress，确保配置生效。

2. 确认Gunicorn的超时配置 #

即便服务器层面设置了超时，仍需确保Gunicorn的参数正确，避免worker提前终止请求处理：

• 启动Gunicorn时明确指定超时相关参数：

gunicorn --bind 0.0.0.0:5000 --timeout 1800 --keep-alive 2700 app:app

• --timeout 1800：设置worker处理单请求的超时时间为半小时
• --keep-alive 2700：延长连接保持超时，覆盖默认的2秒，避免连接被提前关闭

3. 启用长请求的心跳机制 #

若请求处理过程中长时间无数据传输，中间网络设备（如防火墙、负载均衡器）可能因TCP空闲超时断开连接。可通过Flask流式响应定期发送心跳包：

from flask import Flask, Response
import time

app = Flask(__name__)

@app.route('/long-task')
def long_task():
    def generate():
        # 模拟14分钟的任务处理
        for _ in range(840):
            time.sleep(1)
            # 发送空字节维持连接活跃
            yield b' '
        # 任务完成后返回正式响应
        yield b'{"status": "success", "data": "task_result"}'
    return Response(generate(), mimetype='application/json')

4. 检查Pod连接跟踪配置 #

可查看Pod所在节点的TCP连接跟踪超时参数，确认是否存在限制：

kubectl exec -it <你的Pod名称> -- /bin/bash -c "sysctl net.netfilter.nf_conntrack_tcp_timeout_established"

默认值通常为432000秒（5天），若未被修改可忽略此步骤；Autopilot集群一般不允许自行调整该参数，优先通过前几步解决问题。

内容的提问来源于stack exchange，提问作者Syzygy