为什么Nginx会截断gRPC流式响应？附相关配置与可复现案例说明

问题核心排查与修复方案 #

第一步：优先排除前端解析逻辑问题 #

你当前的前端代码存在典型的流式响应解析错误：TCP传输层的数据包拆分和应用层的消息边界没有对应关系，TextDecoderStream返回的单个value大概率不是完整的JSON对象，直接调用JSON.parse会解析失败，看起来就像是响应被截断了。
修复方式：

1. 后端输出每个JSON对象后追加唯一分隔符（通常用换行符\n），明确消息边界
2. 前端增加缓冲区处理逻辑，示例代码如下：

(async function(){
    const response = await fetch("{{ url_for('realtimedata') }}");
    const reader = response.body.pipeThrough(new TextDecoderStream()).getReader();
    // 维护残留数据缓冲区
    let buffer = '';
    while (true) {
        const {done, value} = await reader.read();
        if (done) break;
        buffer += value;
        // 按分隔符拆分所有完整消息
        const lines = buffer.split('\n');
        // 最后一段可能是不完整的消息，放回缓冲区
        buffer = lines.pop();
        // 处理所有完整消息
        for (const line of lines) {
            if (!line.trim()) continue;
            try {
                console.log('Received', line);
                const rtd = JSON.parse(line);
                console.log('Parsed', rtd);
            } catch(err) {
                console.log('解析失败，原始内容：', line, err);
            }
        }
    }
    // 连接断开后如果缓冲区还有剩余数据，可按需处理
    if (buffer.trim()) {
        console.warn('连接断开，残留未处理数据：', buffer);
    }
})()

第二步：修正反向代理与应用服务配置 #

你当前的Nginx配置存在明显问题，同时要同步调整gunicorn配置：

Nginx配置修正

server {
    listen 80 default_server;
    server_name example.com;

    location / {
        include proxy_params;
        proxy_pass http://localhost:5000;
        # 禁用代理缓存
        proxy_buffering off;
        proxy_request_buffering off;
        # 使用HTTP 1.1支持chunked传输，不要关闭chunked_transfer_encoding
        proxy_http_version 1.1;
        proxy_set_header Connection "";
        # 告诉Nginx不要缓存流式响应
        proxy_set_header X-Accel-Buffering no;
        # 延长流式连接超时时间，按需调整
        proxy_read_timeout 86400s;
    }
}

gunicorn配置修正

• 不要使用默认的同步worker，改用异步worker类型，比如gevent或者uvicorn.workers.UvicornWorker
• 禁用超时关闭长连接：启动时添加参数--timeout 0
• 确保Python后端返回流式响应时设置正确的响应头，Flask框架示例如下，其他框架逻辑类似：

  from flask import Response
  def stream_response():
      def generate():
          # 从gRPC接收流式消息，每个消息序列化为JSON后加\n
          for msg in grpc_stream:
              yield json.dumps(msg) + '\n'
      return Response(generate(), content_type='application/x-ndjson', headers={
          'X-Accel-Buffering': 'no',
          'Cache-Control': 'no-cache',
          'Transfer-Encoding': 'chunked'
      })
  

第三步：逐层验证排除链路问题 #

如果以上修改后问题仍存在，按顺序排查：

1. 直接请求gunicorn监听的5000端口，跳过反向代理，确认输出是否正常
2. 在Python后端打印从gRPC收到的每一条完整消息，确认gRPC到Python层的传输没有截断
3. 确认Go gRPC服务端发送消息时没有设置错误的流控制参数，没有提前断开流

内容的提问来源于stack exchange，提问作者Paul Côté