Kafka新增2个broker后如何强制原有主题分区完成多副本同步？

预排查（先确认无底层故障） #

• 确认broker 2、3进程正常运行，三台broker之间的内部通信端口（默认9092）网络互通，无防火墙、安全组拦截，磁盘剩余空间、IO、CPU、内存资源充足，无资源瓶颈。
• 查看broker 2、3的server.log与controller.log，搜索ReplicaFetcher、Replication相关报错，排除副本目录权限不足、旧数据残留冲突、磁盘损坏等底层错误。
• 确认三台broker的replica.lag.time.max.ms、inter.broker.listener.name配置一致，避免配置不一致导致副本同步超时被踢出ISR。

修复操作步骤 #

1. 解除同步限流限制 #

默认Kafka副本同步带宽有限制，存量数据大的情况下同步容易超时被踢出ISR，可临时调高同步速率：

kafka-configs --zookeeper $KAFKA_ZOOKEEPER_CONNECT --alter --entity-type brokers --entity-default --add-config follower.replication.throttled.rate=104857600,leader.replication.throttled.rate=104857600

上述配置将同步速率限制调整为100MB/s，可根据自身网络、磁盘性能调整数值。

2. 给异常分区预留足够同步时间 #

临时调大异常主题的副本落后超时阈值，避免同步过程中被踢出ISR：

# 单个自定义主题调整示例，可批量替换为所有异常主题
kafka-configs --zookeeper $KAFKA_ZOOKEEPER_CONNECT --alter --entity-type topics --entity-name Z_player --add-config replica.lag.time.max.ms=300000

# 内置__consumer_offsets主题调整示例
kafka-configs --zookeeper $KAFKA_ZOOKEEPER_CONNECT --alter --entity-type topics --entity-name __consumer_offsets --add-config replica.lag.time.max.ms=300000

这里将超时时间调整为5分钟，大存量分区可适当调大。

3. 清理异常节点残留数据（可选，仅适用于同步报错的场景） #

如果日志显示副本数据冲突，可先停止broker 2、3，删除两个节点数据目录下所有异常主题的分区文件夹，再重启broker，让节点重新从leader拉取全量副本数据。

4. 验证分区重分配状态 #

重新执行分区重分配验证命令，确认重分配进度：

kafka-reassign-partitions --zookeeper $KAFKA_ZOOKEEPER_CONNECT --verify --reassignment-json-file 你之前生成的重分配配置文件.json

存量数据大的分区同步需要一定时间，等待10-30分钟后再查看ISR状态。

5. 备选方案：切换Leader触发同步 #

如果上述操作后仍未同步，可尝试将异常分区的Leader切换到其他broker，触发副本重新同步：

# 先编写leader选举配置文件，示例如下，替换为你实际的主题分区
{"version":1,"partitions":[{"topic":"Z_player","partition":0,"leader":2}]}

# 执行优先Leader选举
kafka-leader-election --bootstrap-server $KAFKA_BOOTSTRAP_SERVERS --election-type PREFERRED --path-to-json-file 选举配置文件.json

结果验证与收尾 #

• 执行以下命令确认无未同步副本：

kafka-topics --zookeeper $KAFKA_ZOOKEEPER_CONNECT --under-replicated-partitions --describe

无输出即为所有分区ISR同步正常，再抽查主题详情确认ISR列表包含3个副本。

• 同步完成后删除临时配置的限流规则与超时参数，避免影响后续集群运行：

# 删除broker同步限流
kafka-configs --zookeeper $KAFKA_ZOOKEEPER_CONNECT --alter --entity-type brokers --entity-default --delete-config follower.replication.throttled.rate,leader.replication.throttled.rate

# 删除主题的临时超时参数，示例如下
kafka-configs --zookeeper $KAFKA_ZOOKEEPER_CONNECT --alter --entity-type topics --entity-name Z_player --delete-config replica.lag.time.max.ms

内容的提问来源于stack exchange，提问作者Alex Pristenskiy