Apache Ignite缓存查询延迟高及超40万条数据加载失败求助

一、查询延迟过高（2-3秒）的优化方案 #

1. 修复查询逻辑（核心优化） #

当前查询代码通过遍历整个缓存所有条目匹配key，属于全表扫描，在40万条数据量级下必然导致极高延迟。直接改用Ignite缓存原生的get()方法，这是O(1)复杂度的哈希查找：

修改后的查询控制器代码：

@GetMapping("/getCache/{cacheName}/{panNumber}")
public Map<String, ProductLines> getCachebyId(@PathVariable String cacheName, @PathVariable String panNumber) {
    IgniteCache<String, ProductLines> cache = cacheService.getCache(cacheName);

    if (cache != null) {
        Map<String, ProductLines> result = new HashMap<>();
        ProductLines value = cache.get(panNumber);
        if (value != null) {
            result.put(panNumber, value);
        }
        return result;
    } else {
        throw new RuntimeException("Requested Cache '" + cacheName + "' cannot be found");
    }
}

2. 缓存配置优化 #

• 缓存模式调整：当前使用CacheMode.REPLICATED（全节点复制），集群节点较多时数据同步开销极大。若业务允许数据分区存储，建议改为CacheMode.PARTITIONED，减少单节点数据量，同时提升查询和写入性能。
• 事务模式调整：若无需强事务保证，将AtomicityMode.TRANSACTIONAL改为ATOMIC，可大幅提升读写性能。
• 同步模式调整：FULL_SYNC会等待所有副本写入完成才返回，改为PRIMARY_SYNC仅等待主节点写入完成，降低写入延迟（适用于容忍最终一致性的业务场景）。

修改后的缓存配置片段：

CacheConfiguration<String, String> cacheCfg = new CacheConfiguration<>();
cacheCfg.setName("myCache");
cacheCfg.setAtomicityMode(CacheAtomicityMode.ATOMIC); // 改为原子模式
cacheCfg.setCacheMode(CacheMode.PARTITIONED); // 改为分区模式
cacheCfg.setWriteSynchronizationMode(CacheWriteSynchronizationMode.PRIMARY_SYNC); // 仅主节点同步

二、大数据量（超1000万条）加载失败的问题排查与解决 #

1. 内存容量不足（核心原因） #

当前数据区配置maxSize=6L*1024*1024*1024（6GB），若每条ProductLines记录按1KB估算，1000万条数据需约10GB，远超内存上限。Ignite虽会将溢出数据写入磁盘，但内存不足会导致加载过程中OOM或数据无法正常缓存。

解决方案：

• 增大数据区内存：根据实际记录大小调整maxSize，例如改为12L * 1024 * 1024 * 1024（12GB），确保能容纳全部热数据。
• 开启自动内存淘汰：启用LRU淘汰策略，当内存使用率达到阈值时自动淘汰冷数据，避免内存溢出：

regionCfg.setPageEvictionMode(DataPageEvictionMode.RANDOM_LRU);
regionCfg.setEvictionThreshold(0.8); // 内存使用率达80%时启动淘汰

2. 批量加载方式优化 #

确保streamBulkData方法使用Ignite官方推荐的DataStreamer工具，它支持自动分片、批量提交，能大幅提升批量写入性能：

标准DataStreamer实现示例：

public void streamBulkData(String cacheName, List<ProductLines> records) {
    try (IgniteDataStreamer<String, ProductLines> streamer = ignite.dataStreamer(cacheName)) {
        streamer.perNodeBufferSize(1024); // 单节点缓冲区大小
        streamer.perNodeParallelOperations(8); // 并行操作数
        streamer.allowOverwrite(true); // 允许覆盖已存在数据

        for (ProductLines record : records) {
            streamer.addData(record.getPanNumber(), record); // 假设panNumber为缓存key
        }
    }
}

3. 缓存配置适配 #

• 禁用事务模式：TRANSACTIONAL模式下批量写入会生成大量事务日志，性能极低，建议改为ATOMIC模式。
• 调整基线节点：确保集群基线节点稳定，避免加载过程中拓扑变化导致数据丢失或加载中断。

4. 加载流程优化 #

• 分批次加载：将1000万条数据拆分为多个小批次（如每批次10万条），避免单次加载带来的内存压力。
• 异步加载校验：确保processAllRecords的异步逻辑无资源泄漏，避免主线程阻塞影响加载效率。

内容的提问来源于stack exchange，提问作者Dude Ramasamy