GRPC客户端负载均衡如何针对每个目标地址统计响应时间

最优实现：直接使用Picker原生Done回调 #

gRPC Picker接口的Pick方法返回的PickResult原生提供了Done钩子，该钩子会在当前RPC请求全链路执行完成（无论成功/失败）时被框架自动调用，不需要额外借助拦截器即可在负载均衡模块内部完成耗时统计，也是官方实现带指标类负载均衡策略的标准方案。
你可以通过闭包在Pick阶段捕获需要的信息，在Done触发时更新指标：

1. Pick阶段完成后端节点选择后，记录当前时间作为请求开始时间，同时捕获选中节点的服务地址
2. 实现Done回调函数，回调触发时计算时间差得到本次请求的实际耗时，更新对应节点的响应时间指标即可
   以Go gRPC实现为例，核心逻辑参考：

func (p *CustomRespTimePicker) Pick(info balancer.PickInfo) (balancer.PickResult, error) {
    // 你的负载均衡逻辑选出目标子通道与对应服务地址
    selectedSubConn, targetAddr := p.selectTargetBackend()
    reqStart := time.Now()

    return balancer.PickResult{
        SubConn: selectedSubConn,
        // 框架会在请求结束后自动调用该回调
        Done: func(di balancer.DoneInfo) {
            reqCost := time.Since(reqStart)
            // 更新对应节点的响应时间指标，可根据di.Err区分成功/失败请求做不同处理
            p.lbMetricPool.Update(targetAddr, reqCost, di.Err)
        },
    }, nil
}

Java、C++等其他语言的gRPC实现均提供了对等的PickResult完成回调能力，逻辑完全通用。

可选方案：拦截器透传地址信息 #

如果你确实需要在拦截器中统计包含业务自定义逻辑的耗时（而非纯框架层RPC耗时），可以通过自定义属性透传打通地址传递链路：

• 定义全局唯一的自定义属性键，用于存储负载均衡选中的后端地址
• 在Picker的Pick逻辑中，将选中的地址写入PickResult的Attributes字段
• 客户端拦截器中从RPC上下文读取该属性值，结合拦截器统计的耗时，写入负载均衡的全局指标池即可

注意事项 #

• 响应时间指标建议使用滑动窗口统计，避免历史冷数据干扰负载均衡决策
• 多并发场景下指标更新需做好线程安全控制，避免数据竞争
• 建议区分成功请求和失败请求的统计逻辑，异常失败的请求耗时不要计入正常权重计算

内容的提问来源于stack exchange，提问作者MagicMan