FastAPI部署Google App Engine时Gunicorn与FastAPI并发方案选择

• Gunicorn 负责进程级并发：你启动的每个 Uvicorn worker 都是独立的 Python 进程，拥有独立的 GIL、事件循环和内存空间，作用是绕开 GIL 限制利用多核 CPU 资源。
  针对 Google App Engine 标准环境的特点：绝大多数通用实例仅配备 1 个 vCPU，你原来配置的 4 个 worker 会产生过高的进程上下文切换开销，反而拉低性能，建议调整 worker 数量即可。
• FastAPI/UVicorn 负责单进程内的并发：异步端点靠进程内的事件循环实现协程级并发，同步端点靠进程内默认的线程池实现 IO 场景下的并发调度，解决的是同步阻塞逻辑（比如数据库查询、第三方接口调用）等待期间的 CPU 资源浪费问题。
  如果你的同步端点以 IO 密集型逻辑为主，可以通过自定义 Starlette 线程池大小进一步提升单 worker 并发能力；如果同步端点存在大量 CPU 计算逻辑，线程池扩容没有收益，优先通过 Gunicorn 调整 worker 数量或者把计算逻辑抽离到独立的后端服务处理。

最优配置参考（针对GAE标准环境单vCPU实例） #

启动命令调整为：
gunicorn main:app --workers 2 --worker-class uvicorn.workers.UvicornWorker --bind 0.0.0.0:80
同时可在 app.yaml 中调整单实例最大并发请求数为 50~100，配合你接口的平均响应时间调整，避免单实例负载过高触发超时。

内容的提问来源于stack exchange，提问作者Gammel