如何在Boost Asio中高效排空WebSocket以避免调度瓶颈？

针对高吞吐量场景下循环调用async_read导致的过度调度瓶颈，你可以通过以下几种方案减少调度次数，实现批量读取就绪的WebSocket帧：

方案一：异步读取后批量同步读取就绪帧 #

利用Beast WebSocket流的非阻塞特性，在一次异步读取完成后，立即通过同步读取操作耗尽当前套接字缓冲区中所有就绪的WebSocket帧，避免每帧触发一次调度：

asio::awaitable<void> read_loop(websocket::stream<ssl::stream<tcp::socket>>& ws)
{
    beast::flat_buffer buffer;
    for (;;)
    {
        // 异步读取第一个帧，挂起协程等待数据
        co_await ws.async_read(buffer, asio::use_awaitable);
        
        // 处理当前读取到的帧
        process_frame(buffer.data());
        buffer.consume(buffer.size());

        // 循环读取所有当前就绪的帧（非阻塞，无数据时立即返回would_block）
        asio::error_code ec;
        while (true)
        {
            ws.read(buffer, ec);
            if (ec == asio::error::would_block)
                break; // 无更多就绪数据，退出批量读取循环
            if (ec)
                throw asio::system_error(ec);

            // 处理新读取的帧
            process_frame(buffer.data());
            buffer.consume(buffer.size());
        }
    }
}

原理 #

异步async_read完成时，内核套接字缓冲区中往往已经缓存了多个WebSocket帧的完整数据。此时用非阻塞同步读取（ws.read）可以一次性将这些帧全部读出，无需每次发起异步操作、触发上下文切换，大幅减少调度次数。

方案二：等待可读事件后批量读取 #

通过等待套接字的可读事件，在事件触发后一次性读取所有可用的WebSocket帧，进一步减少异步操作的发起次数：

asio::awaitable<void> read_loop(websocket::stream<ssl::stream<tcp::socket>>& ws)
{
    beast::flat_buffer buffer;
    auto& tcp_socket = ws.next_layer().next_layer(); // 获取底层TCP套接字

    for (;;)
    {
        // 等待套接字可读事件，挂起协程
        co_await tcp_socket.async_wait(tcp::socket::wait_read, asio::use_awaitable);

        // 批量读取所有就绪的WebSocket帧
        asio::error_code ec;
        do
        {
            ws.read(buffer, ec);
            if (!ec)
            {
                process_frame(buffer.data());
                buffer.consume(buffer.size());
            }
        } while (ec != asio::error::would_block);

        if (ec && ec != asio::error::would_block)
            throw asio::system_error(ec);
    }
}

注意事项 #

• 两种方案都依赖套接字的非阻塞模式，而Beast的WebSocket流在使用异步操作时，底层套接字默认已处于非阻塞状态，无需额外配置。
• 确保帧处理逻辑（process_frame）的效率足够高，避免因处理过慢导致套接字缓冲区溢出。
• 若使用strand序列化操作，需将批量读取逻辑也纳入strand的调度范围，避免线程安全问题。

内容的提问来源于stack exchange，提问作者Eduard Rostomyan