如何备份恢复超大规模Cassandra表？从2.0迁移至3.11新服务器

针对你提到的500万-2000万条数据的表，快照法因版本格式不兼容失效、COPY效率不足的问题，以下是几个更优的迁移方案及工具：

方案一：官方SSTableLoader批量加载（推荐） #

利用Cassandra自带的sstableloader和sstableupgrade工具，直接处理底层SSTable文件，效率最高，适合中等及以上数据量。

步骤：

1. 导出旧集群SSTable

   • 先刷新内存数据到磁盘：nodetool flush <keyspace> <table>
   • 生成表快照：nodetool snapshot -t migration_snapshot <keyspace> <table>
   • 从旧节点的data/<keyspace>/<table>-<uuid>/snapshots/migration_snapshot/目录下拷贝所有SSTable文件（后缀为.db、.index等）到临时服务器。

2. 升级SSTable格式到3.11兼容版本

   • 在安装了Cassandra 3.11的机器上，创建临时Keyspace和表（与旧表Schema一致），将拷贝来的SSTable文件放入data/<temp_keyspace>/<temp_table>-<uuid>/目录。
   • 运行格式升级命令：sstableupgrade -k <temp_keyspace> -t <temp_table>
   • 验证升级后的SSTable文件，确认无报错。

3. 批量加载到新集群

   • 用sstableloader将升级后的SSTable导入新集群：

     sstableloader -d <新集群节点IP1>,<新集群节点IP2> <升级后的SSTable目录路径>
     

   • 该工具会自动处理数据分片和复制，速度远高于COPY命令。

方案二：Spark Cassandra Connector 迁移 #

通过Spark的分布式计算能力，直接跨版本读取写入数据，无需处理底层文件，灵活性高。

步骤：

1. 环境准备

   • 部署Spark集群（或单机模式），安装与Cassandra 3.11兼容的Spark Cassandra Connector（注意Connector版本与Spark、Cassandra版本匹配）。

2. 编写迁移作业（以Python为例）

   from pyspark.sql import SparkSession
   
   # 初始化Spark会话，连接旧集群
   spark = SparkSession.builder \
       .appName("CassandraCrossVersionMigration") \
       .config("spark.cassandra.connection.host", "旧集群节点IP") \
       .getOrCreate()
   
   # 从旧集群读取数据
   source_df = spark.read.format("org.apache.spark.sql.cassandra") \
       .options(keyspace="old_keyspace", table="target_table") \
       .load()
   
   # 写入新集群（需提前创建好对应的Keyspace和表）
   source_df.write.format("org.apache.spark.sql.cassandra") \
       .options(keyspace="new_keyspace", table="target_table") \
       .mode("append") \
       .save()
   
   spark.stop()
   

3. 执行作业

   • 提交Spark作业：spark-submit --packages com.datastax.spark:spark-cassandra-connector_2.12:3.2.0 migration_job.py
   • 可通过Spark UI监控迁移进度，支持并行处理，适合大规模数据迁移。

方案三：DataStax Bulk Loader（DSBulk） #

DataStax开源的高效批量数据工具，比原生COPY命令快10-100倍，支持跨版本迁移，操作简单。

步骤：

1. 下载并配置DSBulk

   • 下载DSBulk压缩包并解压，配置conf/application.conf中的旧集群和新集群连接参数（如IP、端口、认证信息）。

2. 导出旧集群数据

   dsbulk unload -k old_keyspace -t target_table -url ./migration_data
   

   • 导出的数据为CSV格式，存储在指定目录。

3. 导入新集群

   dsbulk load -k new_keyspace -t target_table -url ./migration_data
   

   • 工具自动处理数据校验和重试，支持并行导入，适合中等数据量的快速迁移。

迁移注意事项 #

• Schema兼容性：新集群需提前创建与旧表兼容的Schema，注意Cassandra 3.11新增的特性（如物化视图、JSON类型），避免数据类型冲突。
• 数据一致性：迁移期间建议停止旧集群的写入操作；若业务允许，可开启双写（同时写入新旧集群）一段时间，确保数据无丢失。
• 验证：迁移完成后，通过SELECT COUNT(*) FROM <table>对比新旧表行数，随机抽样检查数据内容，用nodetool repair确保新集群数据一致性。

内容的提问来源于stack exchange，提问作者Development Team