关于Celery长时运行任务执行过程中突然消失的技术问询

我之前处理过好几个类似的Celery长时任务监控消失的问题，结合你的描述，核心问题出在任务元数据的生命周期管理上——任务本身还在运行，但Redis和Flower里的监控数据被清理掉了，下面是具体的排查和解决方向：

1. 检查Redis中任务元数据的过期时间配置 #

Celery默认会给任务相关的Redis键设置过期时间，如果任务运行时长超过这个时间，元数据就会被Redis自动删除，导致Flower找不到任务记录。

解决办法是调整Celery的任务结果过期配置：

• 对于Celery 5.x及以上版本，修改配置文件或代码中的task_result_expires，同时针对Redis结果后端设置result_backend_transport_options中的max_age：

from celery import Celery

app = Celery('my_app', broker='redis://localhost:6379/0', backend='redis://localhost:6379/0')

# 设置任务结果保留7天（单位：秒）
app.conf.task_result_expires = 86400 * 7
# Redis传输层的元数据过期时间同步设置
app.conf.result_backend_transport_options = {
    'max_age': 86400 * 7
}

• 旧版本Celery（4.x及以下）使用CELERY_TASK_RESULT_EXPIRES配置项，逻辑一致。

2. 调整Flower的任务缓存与事件过期参数 #

Flower本身会定期清理任务记录，如果任务运行时间过长，超出了Flower的默认缓存保留规则，就会被标记为“Unknown task”。

启动Flower时添加以下参数来延长保留时间：

# --max-tasks 设置保留的最大任务数量，默认是1000
# --task-events-expire 设置任务事件的过期时间（单位：秒），默认是3600
flower --broker=redis://localhost:6379/0 --max-tasks=10000 --task-events-expire=86400

这样Flower会保留更多任务记录，且不会轻易把长时间运行的任务标记为未知。

3. 在长时任务中主动发送状态更新 #

如果任务长时间没有状态变化，Flower可能会认为任务已经终止，进而清理相关记录。可以在任务中定期调用update_state发送进度更新，保持任务在Flower中的活跃状态：

import time
from celery import current_task

@app.task(bind=True)
def long_running_task(self):
    total_processes = 24  # 比如任务要跑24小时，每小时更新一次
    for i in range(total_processes):
        # 执行当前步骤的业务逻辑
        print(f"Processing step {i+1}/{total_processes}")
        
        # 主动更新任务状态
        self.update_state(
            state='PROGRESS',
            meta={'current': i+1, 'total': total_processes, 'status': f"Step {i+1} completed"}
        )
        
        time.sleep(3600)  # 模拟每小时执行一个步骤
    return {"result": "Task completed successfully"}

这样Flower会持续收到任务的状态事件，不会把它标记为未知任务。

4. 排查Redis的内存淘汰策略 #

如果Redis服务器内存不足，可能会触发内存淘汰机制，提前删除带有过期时间的键（包括Celery的任务元数据）。可以通过以下命令检查Redis的内存配置：

redis-cli config get maxmemory-policy

如果返回的是volatile-lru或其他会删除过期键的策略，建议：

• 增加Redis的可用内存，修改maxmemory配置；
• 调整maxmemory-policy为noeviction（确保内存足够的前提下），避免Redis主动删除未过期的任务元数据。

总结下来，优先检查Celery和Redis的过期时间配置，再调整Flower的启动参数，必要时在任务中加入状态更新，基本就能解决长时任务从Flower监控中消失的问题。

内容的提问来源于stack exchange，提问作者Mehraban