Rust中强制reqwest定期重建连接以优化上游负载均衡

针对你遇到的reqwest长连接导致上游负载均衡失效的问题，这里提供几个实用的解决思路：

1. 定期替换reqwest::Client实例 #

这是最简单且有效的方案。reqwest::Client是线程安全的，你可以定期（比如每10分钟）创建新的Client实例替换旧的。旧Client会在所有现有请求完成后自动被回收，新Client发起的请求会通过负载均衡重新建立连接，自然分配到新扩容的上游机器上。

示例代码：

use reqwest::Client;
use std::sync::Arc;
use tokio::time::{interval, Duration};

#[tokio::main]
async fn main() {
    // 初始化共享的Client实例
    let mut shared_client = Arc::new(Client::new());

    // 启动定时任务，每10分钟更新Client
    tokio::spawn(async move {
        let mut interval = interval(Duration::from_secs(600));
        loop {
            interval.tick().await;
            // 创建新Client并替换旧实例
            let new_client = Arc::new(Client::new());
            shared_client = new_client;
        }
    });

    // 业务逻辑中使用shared_client发送请求
    // 例如：shared_client.get("https://upstream-lb.example.com").send().await;
}

2. 配置Hyper底层连接的最大生命周期 #

reqwest基于Hyper实现，你可以直接配置Hyper的连接池，强制连接存活一定时间后关闭，无论是否空闲。这样到时间的连接会被回收，新请求会建立连接并触发负载均衡的重新分配。

示例代码：

use reqwest::Client;
use hyper::client::connect::HttpConnector;
use hyper_util::client::legacy::Client as HyperClient;
use std::time::Duration;

fn build_lb_friendly_client() -> Client {
    let mut http_connector = HttpConnector::new();
    http_connector.enforce_http(false);

    // 配置Hyper客户端，设置连接最大存活时间
    let hyper_client = HyperClient::builder()
        .pool_connection_lifetime(Duration::from_secs(600)) // 连接存活10分钟后关闭
        .pool_max_idle_per_host(8) // 根据请求量调整单主机空闲连接数
        .pool_idle_timeout(Duration::from_secs(30)) // 空闲连接超时回收
        .build(http_connector)
        .expect("Failed to build Hyper client");

    // 包装为reqwest Client
    Client::builder()
        .hyper_client(hyper_client)
        .build()
        .expect("Failed to build reqwest client")
}

3. 调整空闲连接超时（辅助方案） #

如果你的请求量存在波动，可以缩短pool_idle_timeout的时间（比如设为30秒），让空闲的长连接更快被回收。但这个方案只适用于存在空闲连接的场景，若请求持续高负载，所有连接都处于活跃状态，该方法无法触发连接轮换。

内容的提问来源于stack exchange，提问作者Dreamer