AKS上.NET Core微服务Pod扩缩容时gRPC连接持久化方案咨询

我之前在类似的混合云+微服务场景里碰到过一模一样的问题，分享几个业内常用的靠谱方案，都是经过实际验证的：

1. 客户端侧实现gRPC连接池+智能重试机制 #

Pod的创建/销毁在K8s里是常态，所以核心思路是让客户端能自动感知连接中断并透明重连。针对.NET Core的gRPC客户端，可以这么做：

• 用GrpcChannel配置长连接保活：设置KeepAliveTime和KeepAliveTimeout，让连接保持活跃，及时检测到Pod下线
• 结合Polly实现重试策略：针对RpcException中状态码为Unavailable、Aborted、ResourceExhausted这类连接相关的错误，配置指数退避重试，同时避免无限重试
• 示例代码片段：

  var channel = GrpcChannel.ForAddress("https://your-aks-service", new GrpcChannelOptions
  {
      HttpHandler = new SocketsHttpHandler
      {
          KeepAlivePingDelay = TimeSpan.FromSeconds(30),
          KeepAlivePingTimeout = TimeSpan.FromSeconds(5),
          EnableMultipleHttp2Connections = true
      }
  });
  
  var retryPolicy = Policy
      .Handle<RpcException>(ex => ex.StatusCode is StatusCode.Unavailable or StatusCode.Aborted)
      .WaitAndRetryAsync(3, retryAttempt => TimeSpan.FromSeconds(Math.Pow(2, retryAttempt)));
  
  // 用重试策略包装gRPC调用
  await retryPolicy.ExecuteAsync(async () =>
  {
      var client = new YourGrpcService.YourGrpcServiceClient(channel);
      var response = await client.YourStreamingMethodAsync(request);
      // 处理响应
  });
  

2. AKS服务配置会话亲和性减少连接切换 #

如果希望客户端尽量绑定到同一个Pod（减少不必要的连接重建），可以给AKS的Service配置客户端IP会话亲和性：

• 在Service的YAML配置中添加：

  spec:
    sessionAffinity: ClientIP
    sessionAffinityConfig:
      clientIP:
        timeoutSeconds: 1800 # 30分钟超时，可根据业务调整
  

• 注意：这只是减少连接切换，当Pod被销毁时仍然需要客户端重连，所以必须和重试机制结合使用；另外要确保gRPC用的HTTP/2协议被Service正确支持。

3. 引入gRPC网关/代理层做连接中转 #

把连接管理的逻辑从业务服务中抽离，用网关层来屏蔽后端Pod的变化：

• 推荐用YARP（.NET官方反向代理），天然适配.NET生态，配置简单：
  • 网关部署在AKS或者本地，配置集群指向你的微服务Service，开启服务发现和健康检查
  • 本地服务只和网关通信，网关会自动发现AKS中可用的Pod，当旧Pod销毁时，网关会自动切换到新Pod，对本地服务完全透明
• 优势：业务代码不需要关心K8s的Pod生命周期，所有连接维护、故障转移都由网关处理

4. 有状态流式场景：用分布式缓存持久化连接状态 #

如果你的gRPC是流式传输且需要保留上下文（比如断点续传类的场景），可以把连接状态持久化到分布式缓存：

• 在AKS中部署Redis集群，将gRPC流的会话ID、当前传输进度、上下文数据等序列化后存入Redis
• 当Pod被销毁，新Pod接管请求时，通过会话ID从Redis读取状态，恢复之前的流式传输
• 注意：要设置合理的缓存过期时间，避免脏数据；同时要处理并发写入的问题，比如用Redis的原子操作

5. Pod优雅终止+主动通知重连 #

利用K8s的优雅终止机制，让服务在被销毁前主动处理连接：

• 在AKS Deployment中设置terminationGracePeriodSeconds: 30（给服务足够的处理时间）
• 在.NET Core服务中监听ApplicationStopping事件，遍历当前活跃的gRPC连接：
  • 如果是双向流，可以给客户端发送特定的重连指令
  • 同时通过SignalR通知Web客户端切换到新的服务实例
• 示例代码片段：

  public class GrpcConnectionManager : IHostedService
  {
      private readonly IHostApplicationLifetime _lifetime;
      private readonly List<AsyncDuplexStreamingCall<Request, Response>> _activeConnections = new();
  
      public GrpcConnectionManager(IHostApplicationLifetime lifetime)
      {
          _lifetime = lifetime;
          _lifetime.ApplicationStopping.Register(OnStopping);
      }
  
      private void OnStopping()
      {
          foreach (var connection in _activeConnections)
          {
              // 发送重连通知
              connection.RequestStream.WriteAsync(new Request { Type = RequestType.Reconnect });
              connection.RequestStream.CompleteAsync().Wait();
          }
      }
  
      // 其他管理连接的方法
  }
  

这些方案可以根据你的业务场景组合使用，比如客户端重试+网关+优雅终止是最常用的组合，能覆盖大部分场景。如果是无状态的gRPC调用，前两种方案就足够了；如果是有状态的流式传输，需要结合缓存和优雅终止来实现无缝切换。

内容的提问来源于stack exchange，提问作者Nishant