Python LRU Cache搭配Gunicorn缓存异常问题求助

核心问题：Gunicorn多进程导致缓存不共享 #

• Python标准库的functools.lru_cache是进程内缓存，每个Gunicorn worker进程都会维护自己独立的缓存副本，进程之间的缓存完全不互通。
• 你用Postman发请求时，Gunicorn默认会用轮询策略把请求分配给不同的worker。前几次请求可能分别落到不同进程，每个进程都得重新计算并填充自己的缓存，直到某次请求刚好命中之前已经生成过缓存的那个worker，才会出现缓存命中的情况——这就是你看到第4、5次请求才命中的原因。

解决方案 #

1. 单进程运行Gunicorn（仅适合开发/低流量场景） #

启动Gunicorn时指定--workers=1，让所有请求都走同一个进程，缓存自然就能共享。命令示例：

gunicorn --workers=1 your_app:app

缺点：没法利用多核CPU，高流量下性能会受限制。

2. 改用跨进程共享的缓存系统 #

放弃进程内的lru_cache，换成支持多进程共享的缓存方案：

• Redis：用redis-py客户端配合缓存工具（比如cachetools的TTLCache结合Redis），或者直接把Redis作为集中式缓存存储，所有worker都从Redis读取缓存。
• Memcached：和Redis类似，通过pymemcache等客户端实现跨进程的缓存共享。
• 进程间共享内存：比如用multiprocessing.Manager创建共享字典，但这种方案性能和扩展性远不如Redis这类专业缓存，只适合简单场景。

3. 调整Gunicorn负载策略（临时缓解，不推荐） #

调大--worker-connections参数，或者开启粘性会话（如果前端支持），让同一客户端的请求尽量落到同一个worker。但这只是临时缓解，worker重启或扩容后缓存还是会失效，没法从根本解决问题。

验证方法 #

在被缓存的函数里打印当前进程ID，就能确认请求是否落到不同进程：

import os
from functools import lru_cache

@lru_cache(maxsize=None)
def get_data():
    print(f"生成数据，当前进程ID：{os.getpid()}")
    # 模拟耗时的数据库查询或计算
    return "缓存的数据"

如果多次请求打印出不同的进程ID，就实锤是多进程导致的缓存不共享问题。

内容的提问来源于stack exchange，提问作者Jawwad Ahmed