Python gRPC服务器能否在同一服务中混合实现同步与异步方法
同一gRPC服务内混合实现同步、异步方法的方案
完全可以实现同服务内同步、异步方法的混合部署,完全满足你不拆分proto定义、不大规模重写现有非瓶颈方法的约束,不需要额外的服务拆分或者协议改动。
实现原理
gRPC的异步aio服务器本身就做了双向兼容设计:
- 当检测到Servicer类中的方法是普通同步定义(非
async def)时,会自动把方法调用调度到内置线程池执行,行为和传统同步gRPC服务器完全一致 - 当检测到方法是
async def定义时,会直接将方法绑定到事件循环运行,遇到IO等待时自动让出循环资源,不会占用线程池的工作线程,刚好匹配IO密集型方法的优化需求
实际操作步骤
- 保留所有现有非瓶颈同步方法的原逻辑,不需要做任何代码修改
- 仅将需要性能优化的IO密集型方法单独改写为
async def形式,配套把方法内的同步IO调用替换为对应异步版本即可 - 将传统的同步服务器启动逻辑替换为aio异步启动模式
改造后的代码示例
import logging import asyncio import grpc import helloworld_pb2 import helloworld_pb2_grpc # 原有同步IO获取逻辑(保留不动) def fetch_some_data_io_bound(): # 原有同步代码逻辑完全保留 pass # 新增的异步IO获取逻辑(仅用于性能瓶颈方法) async def async_fetch_remote_data(): # 替换为异步的数据库/HTTP/远程调用客户端实现 pass class Greeter(helloworld_pb2_grpc.GreeterServicer): # 原有同步方法,完全不做修改 def SayHello(self, request, context): return helloworld_pb2.HelloReply(message='Hello, %s!' % request.name) # 原有其他同步方法,全部保留原写法 # def OtherNormalMethod(...): # ... # 仅需要优化的瓶颈方法,改为async定义 async def ReadRemoteData(self, request, context): # 直接调用异步IO逻辑,无阻塞等待 remote_data = await async_fetch_remote_data() return helloworld_pb2.RemoteDataReply(content=remote_data) async def serve(): # 创建异步服务器,无需手动传入ThreadPoolExecutor server = grpc.aio.server() helloworld_pb2_grpc.add_GreeterServicer_to_server(Greeter(), server) server.add_insecure_port('[::]:50051') await server.start() await server.wait_for_termination() if __name__ == '__main__': logging.basicConfig() asyncio.run(serve())
注意事项
- 兼容性无侵入:原有同步方法的入参、返回值逻辑完全不需要修改,对调用客户端无任何感知
- 上下文操作兼容:同步方法内所有对RPC上下文的操作(比如设置返回状态码、自定义返回元数据、抛出业务异常)的逻辑都可以正常运行,aio层会自动适配,不需要调整
- 资源调度隔离:异步IO方法的等待不会占用线程池配额,能从根本上解决原来“IO等待打满线程池、导致其他请求排队”的性能问题
- 可逐步迁移:不需要一次性完成所有方法的异步改写,可以优先把性能瓶颈的几个方法迁移完成上线,剩余同步方法后续按需逐步改造即可
- 版本要求:该混写能力在gRPC 1.32.0及以上版本已稳定支持,升级到当前最新稳定版即可直接使用,无额外配置成本
内容的提问来源于stack exchange,提问作者ButterDog
相关产品推荐
相关产品推荐

