运行中Apache Kafka 2.7磁盘扩容方案咨询（虚拟/物理环境）

扩容前通用准备 #

• 确认集群状态：执行kafka-topics.sh --list --bootstrap-server <broker-ip:port>排查所有topic状态，通过kafka-topics.sh --describe --topic <topic-name> --bootstrap-server <broker-ip:port>查看ISR列表，确保副本同步正常
• 备份关键数据：
  • 导出consumer offset：kafka-consumer-groups.sh --describe --group <group-name> --bootstrap-server <broker-ip:port> > consumer-offset-backup.txt
  • 备份配置文件：cp /path/to/server.properties /path/to/server.properties.bak
  • 虚拟环境给虚拟机拍快照，物理机用rsync对Kafka数据目录做增量备份
• 定位数据目录：查看server.properties中的log.dirs参数，确认磁盘挂载路径

虚拟环境磁盘扩容操作 #

适用于VMware、KVM、云平台（AWS/Azure/阿里云等）虚拟机场景：

1. 在虚拟化管理平台给目标虚拟机扩展磁盘容量（云平台弹性磁盘支持在线扩容，无需停机）
2. 登录虚拟机，用lsblk或fdisk -l确认新增的未分配空间
3. 扩展分区与文件系统：
   • 若用LVM：执行lvextend -L +<新增容量> /dev/mapper/<vg-name>-<lv-name>，再用resize2fs /dev/mapper/<vg-name>-<lv-name>刷新文件系统
   • 若非LVM：执行growpart /dev/sda 1（假设目标分区为/dev/sda1），再用resize2fs /dev/sda1扩展文件系统
4. 用df -h验证数据目录所在分区容量已更新
5. 采用滚动扩容保障集群可用性：逐个重启broker服务kafka-server-start.sh -daemon /path/to/server.properties，待当前broker完全启动并加入集群后，再处理下一个节点

物理磁盘场景扩容操作 #

场景A：扩展现有RAID磁盘容量 #

1. 通过RAID控制器管理界面（BIOS/IPMI/厂商管理工具如MegaCLI），将新增物理磁盘加入RAID组或扩展已有RAID容量（仅支持RAID5/6等动态扩容级别）
2. 登录服务器，用lsblk识别RAID逻辑盘的新增空间
3. 扩展分区与文件系统：操作同虚拟环境的LVM/非LVM扩展步骤
4. 验证容量后，滚动重启对应broker服务

场景B：新增物理磁盘 #

1. 安装新磁盘：支持热插拔的服务器可直接添加，否则需停机后物理安装
2. 初始化磁盘：
   • 执行fdisk /dev/sdb（假设新磁盘为/dev/sdb），创建分区，设置分区类型为Linux（代码83）
   • 格式化分区：mkfs.ext4 /dev/sdb1
3. 临时挂载新磁盘：mkdir /tmp/kafka-new && mount /dev/sdb1 /tmp/kafka-new
4. 停止目标broker服务：kafka-server-stop.sh
5. 同步原有数据：rsync -avz /path/to/old-kafka-data/* /tmp/kafka-new/
6. 更新Kafka配置：修改server.properties的log.dirs为新磁盘挂载路径，或添加新路径到参数（多路径用逗号分隔，Kafka会自动均衡数据存储）
7. 配置开机自动挂载：echo "/dev/sdb1 /path/to/new-kafka-data ext4 defaults 0 0" >> /etc/fstab，重新挂载：umount /tmp/kafka-new && mount /path/to/new-kafka-data
8. 启动broker服务，验证topic状态与生产消费功能正常后，删除原数据目录（谨慎操作）

扩容后验证 #

• 执行df -h确认数据目录分区容量符合预期
• 用kafka-topics.sh --describe --topic <test-topic> --bootstrap-server <broker-ip:port>检查ISR副本列表完整，无异常
• 运行生产消费测试，确保数据收发正常

内容的提问来源于stack exchange，提问作者Onur Ulusoy