如何为tokio::spawn_blocking创建多独立池 避免任务互相饿死

最优方案：使用Tokio内置信号量控制并发 #

这个方案不需要引入额外依赖，也不会修改全局线程池配置，完全实现你要的任务隔离效果。
核心原理是：在提交任务到spawn_blocking之前，先用信号量限制同时进入阻塞池的同类型任务数量，排队过程完全在异步侧完成，不会占用阻塞线程池的配额。

实现步骤 #

• 初始化一个容量为N（你需要的最大并发数，比如CPU核心数）的tokio::sync::Semaphore，用Arc包裹实现跨任务共享。
• 每次提交任务前，先异步获取信号量的所有权许可（acquire_owned），这个过程不会阻塞Tokio的异步工作线程。
• 将许可移动到spawn_blocking的闭包中，任务执行完成后许可自动释放，允许下一个排队的任务进入。

代码示例 #

use std::sync::Arc;
use tokio::sync::Semaphore;
use num_cpus;

// 定义同类型任务最大并发数
const MAX_POOL_TASK_CONCURRENCY: usize = num_cpus::get();

#[tokio::main]
async fn main() -> anyhow::Result<()> {
    // 初始化共享信号量
    let pool_semaphore = Arc::new(Semaphore::new(MAX_POOL_TASK_CONCURRENCY));

    // 模拟提交多个任务
    for _ in 0..1000 {
        let semaphore = pool_semaphore.clone();
        tokio::spawn(async move {
            // 异步获取许可，排队过程不占用阻塞池
            let permit = semaphore.acquire_owned().await.expect("信号量已关闭");
            
            // 拿到许可后才提交到阻塞池
            let task_result = tokio::task::spawn_blocking(move || {
                // 持有permit保证同时最多MAX_POOL_TASK_CONCURRENCY个任务运行
                // 这里写你的访问连接池的阻塞逻辑
                let res = access_connection_pool();
                // permit离开作用域自动释放，无需手动操作
                res
            }).await??;

            Ok::<_, anyhow::Error>(task_result)
        });
    }

    Ok(())
}

注意事项 #

• 不要在spawn_blocking内部获取信号量，否则任务还是会占用阻塞线程池的配额等待许可，无法达到隔离效果。
• 这个方案对原有逻辑侵入性极低，也不会影响其他位置调用spawn_blocking的任务运行。

备选方案：独立阻塞线程池 #

如果你需要完全隔离线程资源（比如这部分任务优先级很低，不想和其他阻塞任务争抢线程调度），可以自己创建一个独立的阻塞线程池，例如用threadpool库或者手动实现固定大小的线程池，所有访问连接池的任务都提交到这个独立池执行，再通过oneshot通道把结果传回Tokio异步上下文。
这个方案的隔离性更强，但实现复杂度比信号量方案高，适合有特殊调度需求的场景。

内容的提问来源于stack exchange，提问作者Antimony