如何在高流量FastAPI应用中维护异步CosmosDB连接池？

1. azure-cosmos是否支持异步连接池？ #

• azure-cosmos的异步客户端（AsyncCosmosClient）本身已内置连接池机制，无需手动实现自定义连接池。
• 它基于aiohttp库构建，底层复用了aiohttp的连接池能力，默认会自动处理HTTP/2连接的复用、空闲连接回收等逻辑。

2. 创建自定义异步连接池是否有意义？单个连接能否处理海量流量？ #

• 完全没必要创建自定义连接池，单个AsyncCosmosClient实例即可支撑高并发流量：
  • 异步客户端本身线程安全，FastAPI的异步请求可复用同一个客户端实例，不会出现阻塞问题。
  • Cosmos DB通过HTTP/2协议支持多路复用，单个TCP连接就能同时处理多个请求，客户端内部的连接池会根据负载自动调整连接数。
• 反而创建多个客户端实例会导致连接数激增，容易触发Cosmos DB的连接数限制，引发限流问题。

3. 若需调整连接池参数，是否需要通用库？ #

• 不需要额外通用库，AsyncCosmosClient允许通过配置connection_policy来调整连接池相关参数：
  • 比如设置最大连接数、连接超时、空闲连接超时等，直接在初始化客户端时传入即可。

FastAPI中使用单例异步Cosmos客户端示例 #

from fastapi import FastAPI, Depends
from azure.cosmos.aio import CosmosClient
from azure.cosmos import PartitionKey

app = FastAPI()

# 单例客户端实例
cosmos_client: CosmosClient | None = None

@app.on_event("startup")
async def startup_event():
    global cosmos_client
    cosmos_client = CosmosClient(
        url="YOUR_COSMOS_DB_URI",
        credential="YOUR_COSMOS_DB_KEY",
        # 可选：自定义连接池参数
        connection_policy={
            "max_connections": 100,  # 最大连接数
            "connection_timeout": 30,  # 连接超时（秒）
            "idle_connection_timeout": 60  # 空闲连接回收超时（秒）
        }
    )
    # 提前初始化数据库与容器
    database = await cosmos_client.create_database_if_not_exists("mydb")
    await database.create_container_if_not_exists(
        id="mycontainer",
        partition_key=PartitionKey(path="/id")
    )

@app.on_event("shutdown")
async def shutdown_event():
    await cosmos_client.close()

# 依赖注入获取客户端
async def get_cosmos_client():
    yield cosmos_client

@app.post("/items")
async def create_item(item: dict, client: CosmosClient = Depends(get_cosmos_client)):
    database = client.get_database_client("mydb")
    container = database.get_container_client("mycontainer")
    await container.create_item(body=item)
    return {"status": "success"}

内容的提问来源于stack exchange，提问作者John