Kubernetes Pod中Rust Celery进程被杀死的原因排查

• 本地内存 Profiling 定位泄漏点
  用Rust生态工具排查内存泄漏：

  • 运行 cargo leak 直接检测内存泄漏；
  • 用 cargo flamegraph --bin rss-sync 生成火焰图，查看内存占用高的函数调用栈；
  • 如果是异步任务，用 tokio-console 监控任务生命周期，确认是否有未释放的异步资源。

• 检查 celery-rust 0.5.3 版本缺陷
  该版本存在已知的内存泄漏风险（比如周期性任务调度器资源未及时回收、任务上下文未释放），建议升级到 celery="0.6.x" 或更高稳定版本，验证问题是否消失。

• 确认Kubernetes资源配置有效性

  • 执行 kubectl describe pod <your-pod-name>，检查 Resources.Limits.Memory 是否确实设置为预期值；
  • 用 kubectl top pod <your-pod-name> 实时监控内存变化，确认是否是任务运行过程中内存持续增长触发OOM，而非瞬间峰值。

• 优化任务处理逻辑

  • 如果处理大RSS源，避免一次性加载整个XML文档到内存，改用 quick-xml 等流式解析库；
  • 检查任务中是否持有长生命周期的引用（比如全局缓存未设置过期、数据库连接未复用），导致内存无法被回收。

• 调整Celery Worker配置

  • 启动命令添加 --concurrency=1 限制并发数，先验证单任务运行时内存是否稳定；
  • 设置任务超时参数（比如 --task-timeout=300），防止异常任务占用内存不释放。

• 优化Rust内存分配

  • 编译时指定jemalloc作为分配器，在 Cargo.toml 中添加：

    [dependencies]
    jemallocator = "0.5"
    

    并在main函数开头添加：

    use jemallocator::Jemalloc;
    #[global_allocator]
    static GLOBAL: Jemalloc = Jemalloc;
    

  • 设置环境变量 MALLOC_CONF="dirty_decay_ms:1000,muzzy_decay_ms:1000"，加快jemalloc的内存回收速度。

内容的提问来源于stack exchange，提问作者Dolphin