Flask迁移FastAPI后同步请求出现Read timeout异常排查求助

核心问题 #

将API微服务从Flask迁移到FastAPI后，单路由性能测试有提升，但依赖服务同步发起5次请求时偶尔触发1秒超时；重载并发场景可复现该问题，但与实际业务场景不符。容器内存稳定在900MB以下，排除内存泄漏；gunicorn配置（16 worker，UvicornWorker）与旧版本完全一致，扩容容器资源后问题仍存在。

排查方向与解决建议 #

1. 调整UvicornWorker的连接与事件循环配置 #

FastAPI基于异步的Uvicorn，和Flask的同步worker请求处理逻辑存在差异：

• 单个UvicornWorker虽能处理更多并发，但如果存在请求阻塞事件循环（比如某个请求执行了耗时的同步操作），会导致后续请求排队超时。
• 修改gunicorn配置，增加worker_connections参数（默认1000，可调整至2000），同时在workerclass配置中添加Uvicorn的调试参数，追踪请求处理时长：

bind = 0.0.0.0:8080
workers = 16
accesslog = '-'
loglevel = 'debug'
capture_output = True
reload = False  # 生产环境关闭热重载，避免worker频繁重启
enable_stdio_inheritance = True
workerclass = "uvicorn.workers.UvicornWorker"
worker_connections = 2000

2. 优化调用方的requests连接池配置 #

调用方使用requests默认连接池可能存在连接耗尽问题：

• requests默认HTTPAdapter的连接池大小为10，同步发起请求时若连接未及时释放，会导致后续请求等待连接超时。
• 修改调用方代码，显式配置更大的连接池：

import requests
from requests.adapters import HTTPAdapter

session = requests.Session()
# 配置连接池大小，适配业务请求量
adapter = HTTPAdapter(pool_connections=20, pool_maxsize=20)
session.mount("http://", adapter)
session.mount("https://", adapter)

session.request(url=url, method="GET", timeout=(1,1))

3. 检查gunicorn的worker运行状态 #

虽然配置与旧版本一致，但UvicornWorker的启动逻辑和同步worker不同：

• 查看gunicorn的debug日志，确认是否存在Worker exited等worker频繁重启的日志，若有worker崩溃重启，会导致请求临时排队超时。
• 关闭reload=True，热重载会触发worker进程频繁重启，破坏请求处理的稳定性。

4. 排查容器网络波动 #

偶尔的超时可能源于容器网络延迟而非服务本身：

• 在API服务容器内使用tcpdump抓包，或用curl测试调用方到API服务的网络延迟，确认是否存在偶尔的高延迟或丢包。
• 检查容器编排平台（如Kubernetes/Docker）的网络插件，排查节点间流量调度是否存在异常。

5. 记录FastAPI请求实际处理时长 #

在FastAPI中添加全局中间件，记录每个请求的处理时长，确认超时是否由服务端处理缓慢导致：

from fastapi import FastAPI, Request
import time

app = FastAPI()

@app.middleware("http")
async def log_process_time(request: Request, call_next):
    start = time.time()
    response = await call_next(request)
    duration = time.time() - start
    print(f"Path: {request.url.path} | Process Time: {duration:.4f}s")
    response.headers["X-Process-Time"] = str(duration)
    return response

对比日志中的处理时长与调用方1秒的超时阈值，区分是服务端处理超时还是网络/连接问题导致的超时。

内容的提问来源于stack exchange，提问作者Yuval Cohn