超大数据体量下LevelDB随机查询与随机写性能基准测试问询
LevelDB 超大规模负载下的基准测试与性能特征
现有可参考的成熟基准覆盖范围
针对1TB总容量、10亿条1KB单条记录规模的测试场景,目前有可参考的公开成熟结果,所有测试基本基于LevelDB原生自带的db_bench基准工具完成,测试覆盖的标准场景包含随机顺序写入、随机点查两类,没有针对复杂范围查询的大规模公开结果。
注:这类测试的通用前置要求是预留2倍于目标数据量的磁盘空闲空间,适配compaction过程的临时空间占用,单组完整测试的周期通常在3-7天,因此公开样本量远小于百GB级的测试结果。
随存储规模扩张的实际性能变化
整体来看,LevelDB的性能不会随数据体量增长出现无限制的线性衰减,衰减幅度与负载类型、配置、硬件直接相关:
随机写入场景
- 当数据规模从100GB提升到1TB的过程中,默认配置下(无自定义compaction参数)的随机写性能总降幅在15%-30%之间,NVMe环境下性能基线从约5万ops/s降到3.5-4万ops/s。
- 性能衰减的核心节点出现在数据规模约200GB的位置:此时LSM树的层级数会达到默认配置的稳定值(共7层),后续数据规模继续增长时,层级数不会再增加,compaction的触发频率也会保持稳定,不会出现持续的性能下滑。
- 若出现超过50%的性能衰减,基本属于配置问题:比如Level0文件数阈值配置过低导致写入阻塞,或compaction带宽未做限速导致与正常写入抢占磁盘IO,并非规模带来的固有性能问题。
随机点查场景
- 这是对规模变化最敏感的场景,衰减幅度与块缓存配置强相关:
- 若采用默认的8MB块缓存配置,数据规模到1TB时,块缓存命中率会从百GB规模下的80%以上降到20%-30%,对应随机读性能总降幅可达70%以上,从初期的6万ops/s降到1-2万ops/s。
- 若按机器内存的20%-30%比例配置块缓存(例如32G内存的机器分配6-10G块缓存),同时开启默认的布隆过滤器,1TB规模下的随机读性能与百GB规模下的差距会缩小到20%以内,因为稳定层级的SST索引块、热点数据块会被缓存命中,不会因总数据量增长持续降低性能。
- 机械硬盘环境下,1TB规模的随机点查性能会被磁盘寻址延迟压制到100ops/s以下,这类衰减属于硬件瓶颈,与LevelDB本身的存储结构无关。
未覆盖的测试边界
目前公开的成熟结果基本集中在2TB以内的规模,超过2TB、20亿条以上的场景没有可参考的公开基准;所有公开测试结果均基于SSD/NVMe介质,机械硬盘下的超大规模测试样本几乎缺失。
内容的提问来源于stack exchange,提问作者ning
相关产品推荐
相关产品推荐

