如何高效使用内存缓存？规避堆内存溢出的实践指南

一、核心最佳实践 #

• 用带淘汰策略的缓存替代简单全局结构：别再用普通对象/数组存缓存，改用LRU（最近最少使用）、LFU（最不经常使用）或TTL（过期时间）这类自带淘汰机制的实现。比如Node.js里的lru-cache库，会自动清理冷数据，避免内存无限制膨胀。
• 只缓存必要数据：不要把完整的大对象全塞进缓存，只保留核心计算结果或关键字段。比如你例子里的computations如果是大体积结构，优先缓存最终计算值而非整个对象。
• 避免内存泄漏：全局缓存容易因引用未释放导致内存泄漏，可改用WeakMap（仅支持对象作为键），当缓存键的对象无其他外部引用时，会被GC自动回收，适合特定场景。
• 主动监控与清理：如果用自定义缓存结构，定期通过process.memoryUsage()监控堆内存占用，设置容量阈值，当heapUsed接近阈值时，主动清理冷数据。

二、10GB级缓存的额外注意事项 #

• 不要单进程扛全部缓存：Node.js单进程堆内存有上限（64位系统最大约14GB，但调至10GB会导致GC停顿大幅变长，严重影响性能）。建议用多进程架构，把缓存分片到多个进程，分摊内存压力。
• 混合缓存方案：纯内存缓存扛10GB压力过大，可结合磁盘缓存（如LevelDB、RocksDB）或分布式缓存（如Redis）。热点数据放内存，冷数据转存到磁盘/分布式缓存，平衡性能与内存占用。
• 优化GC性能：若必须用单进程大堆，可通过--expose-gc手动触发GC，或调整--gc-interval参数优化回收频率，同时做好性能测试，避免GC停顿拖垮服务。
• 序列化优化：对大体积缓存对象，用MsgPack等更紧凑的序列化格式替代JSON，减少内存占用，也方便后续转存到磁盘或分布式缓存。

三、LRU缓存实现示例 #

const LRU = require('lru-cache');
const cache = new LRU({
  max: 500 * 1024 * 1024, // 最大缓存500MB
  ttl: 60 * 60 * 1000, // 缓存1小时后过期
  sizeCalculation: (value, key) => {
    // 自定义计算缓存项大小的逻辑
    return Buffer.byteLength(JSON.stringify(value)) + Buffer.byteLength(key);
  }
});

// 缓存数据
cache.set('id', {title: "...", score: "2", result: "computed-value"});
// 获取缓存
const data = cache.get('id');

内容的提问来源于stack exchange，提问作者Suhail Gupta