Spring Batch作业在Kubernetes Pod间迁移POC实现及场景适配咨询

这个POC完全可行，核心是靠Spring Batch的作业断点重启/分片能力，结合Kubernetes（以下简称K8s）的Pod生命周期管理、监控触发机制来实现作业跨Pod迁移。

场景1：Pod1触发运行时异常，转移剩余工作量 #

• Spring Batch侧：必须保证作业是可重启且幂等的
  • 所有Step用@StepScope注解，读写操作要实现幂等（比如给处理过的数据打标记，避免重复执行）
  • 作业元数据（执行状态、Chunk进度）必须存在外部数据库（如MySQL/PostgreSQL），不能存在Pod本地存储，否则Pod挂了进度就丢了
  • 在配置文件里开启spring.batch.job.allow-start-if-complete: false，确保重启后能从失败的断点继续
• K8s侧：用健康检查触发Pod重建
  • 给Spring Boot应用加Actuator健康检查端点，在K8s Deployment里配置livenessProbe，当作业异常导致应用健康状态为down时，K8s会自动杀死当前Pod并启动新Pod
  • 示例Deployment配置片段：

livenessProbe:
  httpGet:
    path: /actuator/health
    port: 8080
  initialDelaySeconds: 30
  periodSeconds: 10
  failureThreshold: 3

新Pod启动后，Spring Batch会读取外部数据库里的作业元数据，自动从失败的Step/Chunk处继续执行剩余工作。

场景2：强制终止Pod1或关停Pod1时转移作业 #

• Spring Batch侧：优先用分区作业/远程分块架构
  • 分区作业：把大作业拆成多个独立的小分区，每个分区的进度单独存储，删除Pod后新Pod可以接手未完成的分区
  • 普通单步作业：要实现优雅停机逻辑，在Pod收到终止信号时保存当前Chunk进度
• K8s侧：利用Pod终止信号触发优雅停机
  • Spring Boot应用里注册ContextClosedEvent监听器，或者用@PreDestroy方法，收到K8s发送的SIGTERM信号时，调用jobOperator.stop(jobExecutionId)，确保作业状态被持久化到外部数据库
  • 手动删除Pod或缩放Deployment副本数时，K8s会先发送SIGTERM等待优雅停机，超时后才强制杀死Pod
• 补充：如果用分区作业，建议把分区管理器单独部署成一个稳定Pod，工作节点用无状态Deployment，删除工作节点Pod后，管理器会自动把未完成的分区分配给新启动的工作节点。

场景3：CPU使用率超过40%时转移负载 #

• Spring Batch侧：必须先把作业改造成可并行拆分的架构
  • 单Pod单作业的话，即使重启到新Pod，负载还是一样，没法转移。所以要改成分区作业，让每个Pod处理一个或多个独立分区，或者用远程分块，把Chunk分配给多个Worker Pod
• K8s侧：用HPA（水平Pod自动扩缩容）触发负载转移
  • 配置HPA基于CPU使用率触发扩容，当Pod CPU使用率超过40%时，HPA自动增加Deployment副本数
  • 示例HPA配置片段：

apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: batch-job-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: batch-job-deployment
  minReplicas: 1
  maxReplicas: 5
  metrics:
  - type: Resource
    resource:
      name: cpu
      target:
        type: Utilization
        averageUtilization: 40

• 注意：HPA扩容后，Spring Batch的分区管理器要能自动识别新Pod，把未完成的分区/Chunk分配过去，实现负载分担。

1. 先掌握K8s核心概念：Pod、Deployment、HPA、ConfigMap，重点理解Deployment的副本管理和Pod生命周期
2. 熟练用kubectl基础命令：kubectl apply、kubectl get pods、kubectl logs、kubectl delete pod、kubectl top pods
3. 了解Spring Boot与K8s的集成：Actuator健康检查、优雅停机、用ConfigMap管理外部配置

1. 搭建本地K8s环境：用Minikube或Docker Desktop启用K8s，部署一个外部MySQL数据库用于存储Spring Batch元数据
2. 改造现有Spring Batch应用：
   • 配置外部数据库作为作业元数据存储，替换默认的内存H2
   • 给Step加幂等逻辑，场景3要改成分区作业
   • 启用Actuator健康检查，添加优雅停机逻辑
3. 编写K8s Deployment、Service、HPA配置文件，用kubectl apply部署应用
4. 逐个验证场景：
   • 场景1：在代码中手动抛出运行时异常，观察Pod重启后作业从断点继续
   • 场景2：用kubectl delete pod <pod-name>删除运行中的Pod，观察新Pod启动后恢复作业
   • 场景3：给作业加大量测试数据，用kubectl top pods看CPU使用率，观察HPA触发扩容，新Pod分担负载
5. 调试优化：调整健康检查超时时间、HPA阈值、优雅停机等待时间等参数

内容的提问来源于stack exchange，提问作者Amit Kumar Jha