如何平衡LSM键值存储多用户访问并解决数据库‘挂起’问题

1. 租户级资源隔离 #

• 为每个用户/租户分配独立的LSM数据库实例或列族（若数据库支持）。比如goleveldb可通过为每个租户创建独立磁盘目录及DB实例实现隔离，BadgerDB原生支持多列族。这种方式彻底隔离各租户的写入与Compaction流程，单个租户的Compaction阻塞不会影响其他租户，响应性完全可预测，无需依赖限流逻辑。缺点是存储资源利用率略有下降，但对于多租户隔离需求优先的场景是最优解。

2. 基于数据库状态的自适应写入限流 #

• 摒弃固定限流常数，通过监控LSM数据库的核心运行指标动态调整写入速率：
  • 对于goleveldb，利用DB.Stats()获取leveldb.num-files-at-level0（L0层文件数）、leveldb.pending-compactions（待处理Compaction任务数）等指标，设置简单阈值触发限流：比如当L0文件数超过预设阈值（如10）时，将该租户的写入速率降至原速率的30%-50%；当L0文件数回落至安全值（如3）时恢复全速。无需复杂数学模型，仅通过阈值判断即可实现自适应调整。
  • 对于BadgerDB，可通过DB.CompactionStatus()获取后台Compaction队列长度，或监控磁盘IO使用率间接判断数据库负载，当Compaction队列过长或磁盘IO繁忙时触发限流，负载回落时恢复。

3. 写入请求的优先级调度与配额管控 #

• 为不同用户的写入请求设置优先级，并基于用户配额分配写入资源：
  • 维护请求队列，为低延迟敏感的请求分配高优先级，在数据库负载较高时优先处理；对“贪婪”用户的大吞吐量请求设置配额上限，限制其单位时间内的写入量，避免占用过多资源。
  • 结合令牌桶算法实现配额管控，每个用户拥有独立的令牌桶，令牌生成速率对应其写入配额，请求需消耗令牌才能执行，从根源上平衡各用户的写入吞吐量。

4. 优化LSM数据库的Compaction策略与配置 #

• 调整Compaction相关配置，降低其对写入性能的影响：
  • 切换至Tiered Compaction策略（BadgerDB默认采用，goleveldb可通过配置启用），该策略以批量合并同层文件为主，避免Leveled Compaction带来的大量随机IO，延迟更可控。
  • 增大Memtable容量（如goleveldb的Options.WriteBufferSize），减少刷盘至L0层的频率，降低Compaction触发次数。
  • 限制Compaction的资源占用：通过配置限制Compaction使用的CPU核数、IO带宽，避免其抢占所有系统资源导致写入停滞。

5. 写入请求的异步缓冲处理 #

• 为每个用户配置独立的内存缓冲队列，用户的写入请求先进入本地缓冲，再异步批量写入数据库：
  • 当数据库处于Compaction繁忙状态时，缓冲队列暂存请求，避免直接拒绝用户请求；同时通过监控缓冲队列长度，动态调整用户的写入速率（如队列满时暂停接收新请求），防止单个用户的缓冲占用过多内存。

内容的提问来源于stack exchange，提问作者Roman Maltsev