生产环境更新Celery Worker代码且无任务丢失的实现方案咨询

你设置的CELERY_ACKS_LATE = True和CELERY_TASK_REJECT_ON_WORKER_LOST = True方向是对的，但docker-compose restart是直接强制终止Worker进程，Celery根本没机会触发任务回退逻辑，所以正在运行的任务不会被重新调度。下面分两种部署场景给你具体解决步骤：

Docker Compose 部署场景 #

1. 先优雅停止旧Worker：
   别直接用restart，先执行这个命令让Worker完成当前任务后再退出：

   docker-compose exec worker_service_name celery -A 你的应用名称 control shutdown
   

2. 确认旧Worker完全退出：
   用docker-compose ps查看Worker服务的状态，直到显示为Exited。
3. 启动新Worker：
   拉取新镜像并启动Worker，这样新Worker会自动从Redis队列中获取所有未完成的任务（包括意外中断被回退的）：

   docker-compose up -d --no-deps worker_service_name
   

K8s 部署场景 #

K8s可以通过滚动更新+生命周期钩子实现优雅更新：

1. 配置Deployment的优雅停止逻辑：
   在Deployment的Pod模板里添加terminationGracePeriodSeconds（设置为你最长任务的时长，比如1小时），同时加preStop钩子执行Celery优雅停止命令：

   spec:
     terminationGracePeriodSeconds: 3600
     containers:
     - name: celery-worker
       image: 你的Worker镜像:latest
       lifecycle:
         preStop:
           exec:
             command: ["celery", "-A", "你的应用名称", "control", "shutdown"]
   

2. 触发滚动更新：
   执行kubectl rollout restart deployment 你的WorkerDeployment名称，K8s会先让旧Pod执行优雅停止，等旧Worker处理完任务退出后，再启动新Pod，新Worker会自动拉取Redis中未完成的任务。

额外注意事项 #

• 确保你的任务是幂等的，也就是重复执行不会产生重复的业务影响（比如重复创建订单），避免任务回退重新执行时出问题。
• 可以用celery -A 你的应用名称 inspect active命令查看当前正在执行的任务，验证优雅停止和任务调度是否正常。

内容的提问来源于stack exchange，提问作者Hamed Feizabadi