Milvus集群Chunk Cache配置疑问及分区加载优化咨询

我们在K8s上部署了Milvus集群，数据集规模约1.5亿条，QueryNode设有16个副本，每个节点内存为40G。当前业务瓶颈为分区加载时间，尝试配置Chunk Cache后未发现加载时间明显改善，且日志中无Chunk Cache加载相关迹象，针对以下问题逐一解答：

1. Chunk Cache是普遍加速分区加载时间，还是仅在向量搜索阶段生效？ #

Chunk Cache主要在向量搜索阶段发挥作用，用来缓存已经加载到QueryNode内存中的chunk数据，避免重复从磁盘读取。它无法直接加速首次分区加载的时间——首次加载时仍需从后端存储（如MinIO）拉取数据到QueryNode内存。只有当分区被卸载后再次加载，或其他QueryNode副本加载相同分区时，若对应chunk已在缓存中，才可能减少加载耗时，这也依赖缓存的命中策略和数据复用情况。

2. 如何验证Chunk Cache是否正常工作？ #

可以通过以下几种方式验证：

• 观察QueryNode内存变化：开启缓存后，执行搜索或重复加载分区时，内存占用应明显上升，且不会在操作完成后立即回落至初始水平。
• 查看监控指标：通过Prometheus采集的Milvus指标，检查milvus_query_cache_hit_count和milvus_query_cache_miss_count，若命中数持续增加，说明缓存正常运行。
• 重复加载测试：对同一分区执行多次加载操作，观察后续加载耗时是否显著降低（需确保缓存有足够空间容纳该分区的chunk）。

3. 缓存是否存储在QueryNode本地存储的localStorage目录（我们的路径为/var/lib/milvus/data，目前为空）？ #

默认情况下，Milvus的Chunk Cache是内存缓存，不会持久化到本地磁盘的localStorage目录。只有当配置queryNode.cache.type为disk时，才会将缓存数据存储到本地指定路径。你的配置未指定type，所以默认使用内存缓存，/var/lib/milvus/data为空是正常现象。

4. 可通过哪个Grafana面板检查缓存状态？ #

在官方Milvus Grafana仪表盘中，找到QueryNode -> Cache相关面板，该面板会展示缓存命中/未命中比例、缓存使用率、缓存大小等关键指标，可直观反映缓存的运行状态。

5. 哪些日志可明确表明Chunk Cache正常运行？ #

QueryNode日志中出现以下内容时，说明Chunk Cache已正常启动并工作：

• 启动日志包含chunk cache is enabled, warmup mode: async，确认缓存已开启。
• 有chunk被加载到缓存时，会出现load chunk [chunk_id] into cache或cache hit for chunk [chunk_id]的日志条目。
• 若配置了预热模式，会出现start async warmup cache相关日志。

附QueryNode的user.yaml配置： #

kubectl exec -it qa-milvus-querynode -- cat /milvus/configs/user.yaml
Defaulted container "querynode" out of: querynode, config (init)
common:
  security:
    authorizationEnabled: true
proxy:
  maxUserNum: 500
  maxRoleNum: 100
queryNode:
  cache:
    enabled: true
    warmup: async

内容的提问来源于stack exchange，提问作者rachel song