gRPC客户端侧负载均衡：如何获取服务器拥堵状态元数据？

gRPC本身没有直接提供获取服务器已处理/正在处理请求数这类拥堵元数据的内置机制，但可以通过以下几种简便方式实现：

• 自定义服务端拦截器+客户端元数据传递
  在服务端实现拦截器，用原子计数器统计每个服务器的活跃请求数（请求开始时递增，结束时递减），然后在每个响应的*元数据（Metadata）*中携带当前服务器的活跃请求数。客户端收到响应后，缓存对应服务器的拥堵状态，后续路由时就可以基于这些数据选择最空闲的节点。

• 自定义健康检查扩展
  扩展gRPC的健康检查服务（grpc.health.v1.Health），让服务端在返回健康状态的同时，附加当前的请求负载数据。客户端定期调用健康检查接口，更新各服务器的拥堵信息，作为负载均衡的依据。

• 客户端侧请求追踪
  如果不想修改服务端，可以在客户端维护每个通道的活跃请求计数：每次发起请求时递增对应通道的计数器，请求结束（成功/失败）时递减。这种方式不需要服务端配合，但统计的是客户端视角的活跃请求数，和服务端实际情况可能存在微小偏差，适合对精度要求不是极高的场景。

需要注意的是，不管用哪种方式，都要确保计数的线程安全性，避免并发场景下的统计错误。

内容的提问来源于stack exchange，提问作者photosynthesis