关于gRPC客户端线程数配额的疑问及作用求证
关于Ray gRPC客户端线程数配置的疑问
Ray在gRPC客户端设置了最大线程数,对应代码位于ray-project/ray仓库的src/ray/rpc/grpc_client.h第112-129行。
我有两个疑问:
- 为何需要在客户端配置线程数?
- 该配置是否真的有效?
我的理解如下:
- 该参数本应为gRPC服务端设计。线程在服务端分配,默认每个gRPC请求由内部维护的线程池中的不同线程处理;代码中的配额限制了线程资源的最大数量。
- 在客户端,除了轮询线程(所有同步gRPC调用都基于异步调用实现,异步调用在轮询线程中内置了事件循环),由于底层采用HTTP/2和IO多路复用机制,我不确定是否还需要其他线程。
内容的提问来源于stack exchange,提问作者Tinyden
相关产品推荐
相关产品推荐

