Cassandra集群增量数据加载及无停机跨集群迁移方案咨询

一、Cassandra v1.0.12 版本操作步骤 #

由于v1.0.12版本工具链有限，需手动完成增量数据的捕获与同步：

1. 全量同步收尾与时间点标记

   • 全量SSTable加载完成后，记录旧集群完成nodetool flush和SSTable导出的时间点，记为T0（可通过SSTable文件的修改时间或系统日志确认）。

2. 捕获增量数据

   • 执行nodetool flush将旧集群各节点内存中的脏数据刷入新的SSTable文件，确保未持久化的数据落地。
   • 遍历旧集群各节点的keyspace数据目录，筛选出修改时间晚于T0的SSTable文件（通过ls -l查看文件mtime），这些就是全量同步后新增的增量数据文件。
   • 注意：若期间有compaction操作，需确认compaction生成的新SSTable是否包含T0后的增量，避免遗漏。

3. 增量数据加载

   • 将筛选出的增量SSTable文件复制到中转机器或新集群节点。
   • 用sstableloader工具将这些文件加载到新集群对应keyspace与表中，命令示例：

     sstableloader -d <新集群节点IP> <增量SSTable所在目录>
     

4. 流量切换与最终同步

   • 在切换业务流量到新集群前，再次执行nodetool flush旧集群，捕获最后一批增量SSTable并加载到新集群。
   • 验证新旧集群数据一致性（可通过nodetool cfstats对比行数、抽样查询）后，完成流量切换。

二、Cassandra v3.x 版本操作步骤 #

v3.x支持更高效的增量备份工具，操作流程更简洁：

1. 全量同步收尾与时间点标记

   • 全量SSTable加载完成后，记录旧集群完成全量导出的时间点T0。

2. 临时开启增量备份

   • 在旧集群各节点执行命令开启增量备份：

     nodetool enablebackup
     

   • 执行nodetool flush将内存脏数据刷入SSTable，此时系统会自动生成增量备份文件（存储在对应table目录下的backups子文件夹中）。

3. 筛选与加载增量数据

   • 从旧集群各节点的backups目录中，筛选出生成时间晚于T0的增量SSTable文件。
   • 将这些文件复制到中转机器，用sstableloader加载到新集群对应表中。

4. 最终同步与流量切换

   • 切换流量前，再次执行nodetool flush和增量备份捕获，加载最后一批增量数据到新集群。
   • 验证数据一致性后，切换业务流量到新集群。
   • 最后在旧集群各节点关闭增量备份：

     nodetool disablebackup
     

通用注意事项 #

• 所有操作尽量在业务低峰期执行，降低对旧集群的性能影响。
• 同步过程中需多次验证数据一致性，避免出现数据丢失或重复。
• v1.0.12版本需注意compaction对SSTable的影响，必要时可临时暂停compaction（nodetool disableautocompaction），同步完成后再开启。

内容的提问来源于stack exchange，提问作者Zen