禁用Kafka Streams changelog后，如何配置RocksDB事务日志及保障容错？

一、启用RocksDB事务日志的配置 #

Kafka Streams默认关闭了RocksDB的事务日志（WAL），因为原本依赖Changelog主题实现容错。要启用它，有两种可行方式：

1. 自定义RocksDB配置类
   实现RocksDBConfigSetter接口，在配置逻辑中开启WAL：

public class CustomRocksDBConfig implements RocksDBConfigSetter {
    @Override
    public void setConfig(String storeName, Options options, Map<String, Object> configs) {
        // 启用事务日志
        options.setWalEnabled(true);
        // 可选：强制每次写操作同步WAL到磁盘，进一步降低崩溃丢数据概率
        options.setWalSync(WALSyncMode.WAL_SYNC_EVERY_WRITE);
    }
}

然后在Streams配置中注册这个类：

Properties streamsProps = new Properties();
streamsProps.put(StreamsConfig.ROCKSDB_CONFIG_SETTER_CLASS_CONFIG, CustomRocksDBConfig.class.getName());
// 其他基础配置（bootstrap servers、application id等）...

2. 直接设置原生配置参数（适用于新版Kafka Streams）
   如果你的Kafka Streams版本支持直接传递RocksDB参数，也可以直接在配置中添加：

streamsProps.put("rocksdb.wal.enabled", "true");

注意：开启WAL后，RocksDB会将状态变更先写入本地WAL文件，进程崩溃重启时能恢复未持久化到SSTable的数据，但无法解决节点故障导致本地磁盘数据丢失的问题。

二、禁用Changelog后的额外容错措施 #

你已经禁用了Changelog（Kafka Streams默认的分布式状态复制机制），仅依赖StatefulSet的存储卷保留RocksDB文件，需要补充以下措施降低数据丢失风险：

• 使用高可用持久化存储卷：StatefulSet挂载的PVC必须采用分布式存储（比如K8s中的EBS、Ceph、Portworx），不能用本地磁盘。存储底层要配置多副本，确保单个节点故障时，存储卷数据仍可访问。
• 定期备份RocksDB状态目录：
  • 用RocksDB自带的BackupableDB工具定期做全量或增量备份，备份文件存储到独立的对象存储（如S3、OSS），避免与应用集群共担风险。
  • 选择业务低峰期执行备份，且定期做恢复测试，验证备份的可用性。
• 拆分大状态存储：将大型聚合状态拆分为多个较小的状态存储，通过调整num.stream.threads或自定义分区策略，让每个实例仅处理部分分区的状态，减小单个RocksDB目录的大小，降低备份恢复的复杂度和风险。
• 监控状态健康指标：
  • 跟踪RocksDB的关键指标：WAL文件大小、SSTable数量、磁盘使用率、读写延迟等，出现异常及时告警。
  • 监控PVC的磁盘使用率，避免磁盘满导致RocksDB写入失败。
• 优化Pod重启策略：
  • 将StatefulSet的podManagementPolicy设为OrderedReady，确保实例逐个重启，避免多个Pod同时争抢同一存储卷的锁导致启动失败。
  • 验证应用崩溃重启时，RocksDB能自动回放WAL恢复状态（开启WAL后默认支持，但需实际测试确认）。
• 禁止随意删除PVC：除非确认数据不再需要，否则不要删除StatefulSet关联的PersistentVolumeClaim，删除PVC会直接丢失存储卷中的RocksDB数据。

针对你看到的这段内容：

Rocksdb is not highly available and does not have a failover scheme. That doesn’t mean you lose your state store data when you store it in RocksDB using Kafka Streams, because it’s Kafka Streams that makes RocksDB fault tolerant by replicating the state store data to a Kafka topic.

核心意思是：RocksDB本身没有集群高可用能力，Kafka Streams是通过Changelog主题复制状态来实现容错的。但你禁用了Changelog，就失去了这个分布式容错层，必须依靠本地存储的高可用和备份策略来弥补缺口。

内容的提问来源于stack exchange，提问作者AmsterdamLuis