小文件密集场景下BTRFS RAID1磁盘最快迁移方案咨询

嗨，针对你这种几百万小文件密集的BTRFS RAID1迁移场景，常规工具确实会因为单文件IO的巨大开销拖慢速度，我结合BTRFS的特性和这类场景的最佳实践，给你梳理几个优先级从高到低的方案：

首先先明确你的核心现状，方便针对性分析：

• 源存储：4TB RAID1 BTRFS，全磁盘无分区，ZSTD压缩，已用99%，未加密，未压缩总数据量约6TB，以KB到小MB级小文件为主
• 目标存储：12TB RAID1 BTRFS，同样未加密、ZSTD压缩
• 常规工具测试：cp耗时约34天，rsync（带默认校验）大概率更慢，tar提升有限

1. BTRFS Send/Receive 快照迁移（首选方案） #

这是BTRFS原生的块级迁移工具，完全跳过单个小文件的IO处理，直接操作文件系统的底层块数据，是小文件场景下最适配的方案，还能完整保留BTRFS的所有特性（压缩属性、权限、快照历史等）。

操作步骤： #

• 先给源RAID1创建只读快照（需要源盘有少量剩余空间，99%满的话建议先清理出几百MB冗余，比如临时删除几个非必要文件，迁移后再恢复）：

  btrfs subvolume snapshot -r /mnt/source /mnt/source/migration_snap
  

  （/mnt/source是你的源BTRFS挂载点，migration_snap是只读快照的名字）
• 挂载目标RAID1的BTRFS卷到/mnt/dest
• 直接将快照发送到目标存储：

  btrfs send /mnt/source/migration_snap | btrfs receive /mnt/dest
  

优势： #

• 块级传输，速度比cp/tar快数倍，能大幅缩短迁移时间
• 支持中断续传：如果中途断开，下次可以用增量send（基于已传输的快照）继续，不用重新开始
• 完整保留BTRFS的所有特性，无需后续额外配置

2. 直接磁盘克隆（最快物理级方案） #

因为你的源是全磁盘分配的BTRFS RAID1，可以直接克隆单块源盘到目标单块盘，再扩展成RAID1并调整文件系统大小，这是纯物理块级复制，完全绕开文件系统层面的小文件处理，速度取决于磁盘的连续读写性能。

操作步骤： #

1. 安全卸载源RAID：先卸载源挂载点umount /mnt/source，然后拔掉RAID1中的一块源盘（确保操作前源RAID处于健康状态）
2. 克隆磁盘：用partclone（比dd更快，支持跳过空块）克隆源盘到目标单块12TB盘：

   partclone.btrfs -s /dev/sdx -o /dev/sdy --progress
   

   （/dev/sdx是你拔掉的源盘，/dev/sdy是目标单块12TB盘；如果用dd的话，命令是dd if=/dev/sdx of=/dev/sdy bs=1M status=progress）
3. 构建目标RAID1：挂载克隆好的目标盘mount /dev/sdy /mnt/cloned_dest，然后加入另一块12TB盘并转换为RAID1：

   btrfs device add /dev/sdz /mnt/cloned_dest
   btrfs balance start -dconvert=raid1 -mconvert=raid1 /mnt/cloned_dest
   

   （/dev/sdz是另一块未使用的12TB目标盘）
4. 扩展文件系统：最后把BTRFS文件系统扩展到目标盘的最大容量：

   btrfs filesystem resize max /mnt/cloned_dest
   

优势： #

• 速度最快，完全利用磁盘的连续读写性能，不受小文件数量影响
• 操作完成后直接得到完整的BTRFS RAID1卷，无需额外配置

注意事项： #

• 克隆前务必确认目标单块盘容量大于源单块盘（12TB>4TB，满足要求）
• 操作前确保源RAID1处于健康状态，避免克隆损坏的数据
• 克隆过程中不要中断，否则需要重新开始

3. 优化后的常规工具方案（备选） #

如果因为某些限制无法使用上面两种BTRFS原生/物理级方案，可通过优化参数来提升rsync或tar的效率，虽然提升幅度不如前两种，但比默认参数要好很多：

优化版rsync： #

rsync -aAXv --no-i-r --info=progress2 --block-size=1M /mnt/source/ /mnt/dest/

• --no-i-r：跳过目录的递归检查，减少不必要的IO操作
• --block-size=1M：增大传输块大小，提升小文件的传输效率
• -aAX：完整保留文件权限、扩展属性、符号链接等所有元数据
• --info=progress2：显示整体传输进度（而非单个文件进度）

优化版tar： #

如果源已经是ZSTD压缩，压缩收益不大，建议直接用无压缩的管道传输：

tar -cf - -C /mnt/source . | tar -xf - -C /mnt/dest

如果CPU空闲，可以用多线程压缩工具pigz提升传输效率：

tar -cf - -C /mnt/source . | pigz -9 | tar -xf - -C /mnt/dest

备注：内容来源于stack exchange，提问作者stillQuestioning