Envoy Proxy在后端Pod崩溃时未返回错误的技术求助

针对你遇到的Envoy未在gRPC服务实例崩溃时快速返回错误的问题，可以通过以下几个关键配置调整来实现预期的快速失败行为：

1. 收紧连接超时并禁用不必要的重试 #

默认的连接超时和重试策略可能导致Envoy持续尝试连接已崩溃的实例。你需要明确设置更短的连接超时，并限制重试次数：

clusters:
  - name: service_b_cluster
    connect_timeout: 1s  # 缩短连接超时至1秒
    lb_policy: ROUND_ROBIN
    hosts: [{ socket_address: { address: service_b, port_value: 50051 } }]
    retry_policy:
      retry_on: "connect-failure"
      num_retries: 0  # 完全禁用重试，连接失败直接返回错误
      per_try_timeout: 1s

将num_retries设为0可以避免Envoy反复重试连接，配合短connect_timeout，能让连接失败的信号快速传递到微服务A。

2. 启用主动健康检查，快速剔除不健康实例 #

即使K8s的Endpoint更新可能有延迟，Envoy的主动健康检查可以直接检测实例状态，一旦发现不可用就立刻停止路由请求：

clusters:
  - name: service_b_cluster
    # ... 其他已有配置
    health_checks:
      - timeout: 500ms
        interval: 1s  # 每秒执行一次健康检查
        unhealthy_threshold: 1  # 一次检查失败就标记为不健康
        healthy_threshold: 1
        grpc_health_check:
          service_name: "service_b.Health"  # 对应微服务B暴露的gRPC健康检查服务名

当所有实例都被标记为不健康时，Envoy会直接返回UNAVAILABLE状态码，微服务A可以立即捕获到错误。

3. 确保gRPC错误状态正确传递 #

Envoy需要正确映射gRPC的连接错误状态，避免将其隐藏或转换为无法被gRPC客户端识别的错误。在HTTP过滤器链中添加grpc_http1_bridge过滤器：

listeners:
  - name: listener_0
    address: { socket_address: { address: 0.0.0.0, port_value: 8080 } }
    filter_chains:
      - filters:
          - name: envoy.filters.network.http_connection_manager
            typed_config:
              "@type": type.googleapis.com/envoy.extensions.filters.network.http_connection_manager.v3.HttpConnectionManager
              codec_type: AUTO
              stat_prefix: ingress_http
              route_config: 
                name: local_route
                virtual_hosts: 
                  - name: service_a
                    domains: ["*"]
                    routes: 
                      - match: { prefix: "/" }
                        route: { cluster: service_b_cluster }
              http_filters:
                - name: envoy.filters.http.grpc_http1_bridge
                - name: envoy.filters.http.router

这个过滤器确保gRPC的错误状态（如UNAVAILABLE）正确传递给微服务A的gRPC客户端，而不是被转换成普通的HTTP 5xx错误。

4. 验证K8s Endpoint同步（若使用K8s服务发现） #

如果你的Envoy通过K8s服务发现获取service B的实例，需要确认K8s的Endpoint Controller能快速移除崩溃Pod对应的Endpoint条目。可以通过以下命令实时监控Endpoint状态：

kubectl get endpoints service-b -w

当Pod崩溃时，若Endpoint能在几秒内更新为无可用实例，Envoy的服务发现会同步这一状态，进而停止尝试连接。

内容的提问来源于stack exchange，提问作者Afzal Khan