Spring Kafka应用提交偏移量报CommitFailedException故障排查

• 单次拉取消息总量处理超时：Kafka消费者默认max.poll.records配置为500条，就算你单条消息处理耗时仅1秒，批量拉取500条的总处理耗时达到500秒，已经超过max.poll.interval.ms默认的300秒（5分钟）阈值，导致消费者协调器判定该消费者存活失效，触发消费组重平衡，原消费者持有的分区被分配给其他消费者后，再提交偏移量就会抛出该异常。
• 版本不兼容问题：你使用的Spring Boot 2.4.2对应适配的spring-kafka版本为2.6.x系列，你当前使用的spring-kafka 2.7.6和Spring Boot 2.4.2存在版本兼容冲突，可能会导致消费者线程异常挂起、心跳上报中断，进而被协调器踢出消费组触发重平衡。
• 心跳超时触发重平衡：默认session.timeout.ms为45秒，若部署环境存在网络波动、进程CPU占满等情况，导致消费者无法在45秒内完成3次心跳上报（默认heartbeat.interval.ms为3秒），协调器会判定消费者离线触发重平衡。
• 同消费组多实例冲突：如果测试/生产环境存在其他使用相同cpo-executor-groupid消费组ID的消费者实例运行，新实例加入会触发消费组重平衡，旧实例提交偏移量时就会报错。
• 热部署触发断连：从日志中的restartedMain标识可以看出你开启了Spring Boot DevTools热部署功能，代码修改触发上下文重启时，消费者会临时断连后重连，这个过程也会触发重平衡，导致重启前的消费者实例提交偏移量失败。

• 调整批量拉取配置：将max.poll.records调整为合适的数值，比如设置为100，保证批量处理总耗时低于300秒：

props.put(ConsumerConfig.MAX_POLL_RECORDS_CONFIG, 100);

• 修复版本依赖：将spring-kafka版本降级到2.6.x系列适配Spring Boot 2.4.2，或者升级Spring Boot版本到2.5.x系列适配spring-kafka 2.7.6。
• 优化心跳配置：如果网络环境不稳定，可以适当调大session.timeout.ms，同时对应调小heartbeat.interval.ms：

props.put(ConsumerConfig.SESSION_TIMEOUT_MS_CONFIG, 60000);
props.put(ConsumerConfig.HEARTBEAT_INTERVAL_MS_CONFIG, 5000);

• 排查消费组实例：使用Kafka自带的kafka-consumer-groups.sh脚本检查cpo-executor-groupid消费组下的实例列表，确认是否存在多余的运行实例。
• 开发环境关闭热部署：如果是本地开发阶段的偶发报错，可以临时关闭Spring Boot DevTools热部署功能，避免重启触发的偶发偏移量提交错误。

内容的提问来源于stack exchange，提问作者Aldo Inácio da Silva