Kafka acks配置、分区rebalancing及消费线程异常问题解决方案咨询

1. acks=all时抛出commit failed exception导致生产者重复发消息 #

根因： #

acks=all要求ISR列表中所有副本都完成消息同步才会给生产者返回提交成功响应。如果出现以下情况会触发提交失败：

• 生产者request.timeout.ms阈值小于Broker端replica.lag.time.max.ms，副本还没完成同步就触发了生产者超时
• ISR列表出现收缩，仅剩余Leader节点，无法满足副本同步要求
• 配合生产者默认的重试机制，提交失败后自动重试就会产生重复消息

解决方案： #

• 调大生产者request.timeout.ms至30000（30s）及以上，匹配Broker副本同步耗时阈值
• 开启生产者幂等性：配置enable.idempotence=true，保证同一生产者发往同一分区的消息仅会被持久化一次，重试不会生成重复数据
• 配置Broker端min.insync.replicas=2，要求ISR至少有2个存活副本才允许写入，兼顾数据一致性和集群可用性

2. 分区重平衡触发消费者重复消费 #

根因： #

重平衡发生时，消费者组会回收所有成员持有的分区所有权，重新分配分区。如果原持有分区的消费者还没来得及提交当前消费位点就被回收了分区，新分配到该分区的消费者会从上一次已提交的位点开始消费，导致重复。
常见重平衡触发场景：消费者心跳超时、单批消息消费耗时超过max.poll.interval.ms阈值、消费者组成员数量变动、订阅主题分区数调整。

解决方案： #

• 调优心跳参数：session.timeout.ms建议配置为10~30s，heartbeat.interval.ms设置为前者的1/3，保证心跳可以及时上报到Broker
• 调优拉取参数：根据单条消息最大消费耗时调整max.poll.interval.ms，同时调小max.poll.records，避免单次拉取消息过多导致消费总耗时超过阈值触发重平衡
• 调整offset提交策略：关闭自动提交（enable.auto.commit=false），改为消费完单条/批量消息后手动同步提交offset，避免未消费完成就提前提交位点，或者消费完成后未到自动提交时机就触发重平衡
• 业务层做好消费幂等，即使出现重复消费也不会生成脏数据

3. 单个/多个分区消费线程停止/无响应导致消息未消费 #

根因： #

• 消费线程内部抛出未捕获的业务异常，导致线程直接退出
• 消费逻辑出现死锁、无限阻塞：比如外部接口调用未配置超时时间一直等待、数据库连接池耗尽无响应
• 分区分配逻辑异常，分区被分配给了已经下线的消费者实例

解决方案： #

• 消费逻辑外层添加全量异常捕获，避免业务异常导致线程直接退出，同时添加消费线程存活状态监控，异常时及时触发告警
• 消费逻辑中所有外部调用必须配置超时时间，避免出现无限阻塞
• 开启消费者组状态监控，定期校验每个分区的分配实例是否存活，出现分配异常时主动触发重平衡
• 避免在消费线程中执行重IO、高耗时操作，这类逻辑建议异步交给下游线程池处理，同时做好流控避免消息堆积

内容的提问来源于stack exchange，提问作者soubhagya senapati