C++调用第三方DLL的getOnlineStatus接口，如何用多线程提速批量查询

问题根因 #

你之前的std::async写法没有真正实现并发，原因是你在每次启动异步任务后，立刻调用了future<T>::get()方法，这个方法会阻塞当前主线程，直到异步任务返回结果，所以整个流程和串行执行没有区别，自然没有速度提升。

前提注意事项 #

首先确认第三方DLL提供的getOnlineStatus接口是线程安全的：如果该接口内部使用了全局变量、静态变量且没有做并发保护，多线程同时调用会出现未定义行为，这种情况下你需要先联系DLL提供方确认，或者加全局锁调用（但加锁的话并发就失去了提升效率的意义）。

实现并发的方案 #

我们可以采用批量并发+限制最大并发数的方式实现，既保证并发效率，也避免一次性创建过多线程耗尽系统资源：

• 每次提交N个异步任务（N可以根据你的CPU核心数、系统允许的最大线程数调整，比如设置为16/32，太高反而会因为线程切换开销降低效率）
• 等待这一批所有任务执行完成后，再提交下一批任务
• 多线程输出cout时需要加锁，避免输出内容错乱

示例代码 #

#include <iostream>
#include <future>
#include <vector>
#include <mutex>

// 单次批量并发数，可根据实际运行情况调整
const int BATCH_SIZE = 32;
// 全局输出锁，避免多线程写cout导致内容乱序
std::mutex g_cout_mtx;

int main() {
    int start_num = 123456;
    const int total_count = 10000000;

    for (int batch = 0; batch * BATCH_SIZE < total_count; batch++) {
        std::vector<std::pair<int, std::future<int>>> batch_tasks;
        batch_tasks.reserve(BATCH_SIZE);

        // 提交当前批次的所有异步任务
        for (int i = 0; i < BATCH_SIZE; i++) {
            int current_num = start_num + batch * BATCH_SIZE + i;
            // 超出总查询数量就停止提交
            if (current_num > start_num + total_count - 1) break;
            auto fut = std::async(std::launch::async, getOnlineStatus, current_num);
            batch_tasks.emplace_back(current_num, std::move(fut));
        }

        // 处理当前批次的所有返回结果
        for (auto& task : batch_tasks) {
            int num = task.first;
            int result = task.second.get();
            // 输出前加锁
            std::lock_guard<std::mutex> lock(g_cout_mtx);
            if (result > 0) {
                std::cout << num << " status online" << std::endl;
            } else if (result == 0) {
                std::cout << num << " status offline" << std::endl;
            } else {
                std::cout << num << " check fail" << std::endl;
            }
        }
    }

    return 0;
}

可选优化方案 #

如果希望进一步提升效率，不需要等待整批任务全部返回才输出结果，可以实现一个简单的线程池，有任务完成就立刻处理对应结果，不需要等整批完成，资源利用率更高。C++20之前标准库没有内置线程池，你可以自行实现轻量线程池即可。

内容的提问来源于stack exchange，提问作者Jason