tbb::concurrent_bounded_queue内部容器是什么?多线程队列性能优化咨询
队列性能优化方案及TBB组件特性说明
TBB concurrent_bounded_queue 核心特性说明
TBB的concurrent_bounded_queue是独立实现的并发队列组件,没有复用STL的底层容器,内部基于原子操作实现无锁并发逻辑,原生支持按值存储任意可复制、可移动的类型。你场景中58字节大小的对象完全可以直接按值存入,不需要额外封装为指针存储,该方案是完全可行的。而且它本身是线程安全的,不需要你额外实现锁逻辑封装,能够减少自行封装带来的锁竞争开销。
两个可选方案的优劣势对比
- 方案1:切换
std::queue底层容器为std::deque+按值存储
该方案改造成本最低,仅需要调整队列的模板参数即可落地。针对你的场景收益非常明确:std::list的每个元素都需要单独分配内存、节点内存完全不连续,不仅内存分配开销高,CPU缓存命中率也极低。替换为std::deque后,分块连续存储的特性能大幅降低内存管理开销,同时提升缓存利用效率,队列吞吐量会有明显提升。
该方案的局限是依然需要自行维护线程安全的锁逻辑,如果你的业务并发度非常高,锁竞争依然会成为性能瓶颈。 - 方案2:替换为TBB
concurrent_bounded_queue
该方案的性能上限更高,原生的无锁并发设计在多线程入队出队的场景下,性能远高于自行加锁封装的STL队列。同时它自带容量边界控制能力,不需要你额外实现队列满/空的等待逻辑,也不需要手动管理指针对象的生命周期,能降低内存泄漏风险。
仅需要注意保证存储的对象的复制/移动构造逻辑符合预期即可,队列内部会正确处理对象的构造和析构。
其他可选优化方案
- 如果你的业务场景是单生产者单消费者(SPSC),可以自行实现无锁环形缓冲区,或者使用成熟的第三方SPSC无锁队列,性能会比通用MPMC队列高30%以上。
- 如果是多生产者多消费者(MPMC)场景,除了TBB队列外,也可以选择其他成熟的第三方MPMC无锁队列实现,多数场景下性能会优于TBB的
concurrent_bounded_queue。 - 如果你不想引入第三方依赖,也可以在
std::deque的基础上改用读写锁代替独占锁,在消费线程更多的场景下能进一步提升并发性能。
内容的提问来源于stack exchange,提问作者Suhail Khan
相关产品推荐
相关产品推荐

