ASP.NET Core IMemoryCache缓存实现多问题排查与解决求助

原代码实现 #

public class MyService
{
    private readonly IMemoryCache cache;
    private ConcurrentDictionary<int, bool> cacheKeys;
    public MyService(IMemoryCache m) { cache = m; }

    public UserModel GetUser(int userId) {
       // Gets the user from the cache if possible, adds it if not
       if (cache.TryGetValue(userId, out var result)) return result;
       result = new UserModel(userId);
       cache.Set(userId, result); // Absolute and Sliding expiration omitted for brevity
       cacheKeys.Add(userId, true);
       return result;
    }

    public void InvalidateCache() {
        // Existing comment reads something along the lines of
        // Since IMemoryCache has no clear, we do this
        foreach (var entry in cacheKeys.ToList())
            cache.Remove(entry.Key);
    }

    // RegisterCacheEvictionHandler omitted for brevity
}

场景补充 #

• 该服务通过AddSingleton()注入到依赖注入容器
• Startup.cs未显式注册IMemoryCache或MemoryCache
• 使用ASP.NET Core原生IMemoryCache（非向后兼容版本）

问题与对应解决方案 #

1. 缓存项与ConcurrentDictionary键不一致，导致键堆积 #

问题根源：cache.Set()和cacheKeys.Add()是独立操作，无原子性保障；缓存项可能因过期、内存压力被自动驱逐，但cacheKeys未同步清理。

解决方案：

• 移除ConcurrentDictionary，改用缓存驱逐回调跟踪键生命周期：添加缓存项时注册PostEvictionCallbacks，当缓存项被移除（主动/被动）时自动清理键记录。
• 若必须保留键集合，将cache.Set()与cacheKeys.Add()包装在原子操作中，确保一致性。

优化后的GetUser示例：

public UserModel GetUser(int userId)
{
    var scopedKey = GetScopedKey(userId);
    if (cache.TryGetValue(scopedKey, out var result)) return result;
    
    result = new UserModel(userId);
    var cacheEntryOptions = new MemoryCacheEntryOptions()
        .AddPostEvictionCallback((key, value, reason, state) =>
        {
            if (state is ConcurrentDictionary<int, bool> keys)
            {
                keys.TryRemove((int)key, out _);
            }
        }, cacheKeys); // 将键集合作为回调状态传递
    
    cache.Set(scopedKey, result, cacheEntryOptions);
    cacheKeys.TryAdd(userId, true);
    return result;
}

2. 全局MemoryCache.Clear()破坏其他使用者缓存 #

问题根源：默认IMemoryCache是单例全局实例，Clear()会清空所有缓存项，影响其他依赖该缓存的服务。

解决方案：

• 为MyService创建独立内存缓存实例，避免与其他服务共享缓存空间：

services.AddSingleton<MyService>(sp =>
{
    var cacheOptions = new MemoryCacheOptions();
    // 配置独立缓存的大小、过期策略等参数
    return new MyService(new MemoryCache(cacheOptions));
});

• 放弃Clear()操作，改用范围键前缀批量失效（见问题3方案），避免全局清理。

3. 缓存键空间共享，存在冲突风险 #

问题根源：直接使用userId作为键，若其他服务也使用int类型键，会导致缓存项冲突。

解决方案：

• 为MyService的缓存键添加唯一前缀，确保键的唯一性：

private string GetScopedKey(int userId)
{
    return $"MyService:User:{userId}";
}

• 批量失效时，仅遍历该前缀下的键（结合问题1的回调维护键集合），无需操作全局缓存。

4. 未配置缓存大小、压缩等参数 #

问题根源：默认MemoryCache无大小限制，可能导致内存溢出；缺乏压缩策略会浪费内存空间。

解决方案：

• 配置缓存大小限制与压缩策略：

var cacheOptions = new MemoryCacheOptions
{
    SizeLimit = 1024 * 1024 * 50, // 限制缓存占用50MB内存
    CompactionPercentage = 0.2, // 内存不足时压缩20%的缓存项
    EnableCompression = true // .NET 6+启用缓存压缩（需对象支持序列化）
};

• 为每个缓存项指定大小单位：

var cacheEntryOptions = new MemoryCacheEntryOptions()
    .SetSize(1); // 每个UserModel占1个单位（可根据实际对象大小调整）

5. 工作站GC对MemoryCache的影响 #

问题根源：工作站GC与服务器GC的内存回收策略不同，多重量级进程场景下会影响缓存性能与内存占用。

解决方案：

• 配置合理的过期策略：设置绝对过期/滑动过期时间，避免缓存项长期占用内存，减轻GC压力。
• 严格限制缓存大小：通过SizeLimit防止缓存无限制增长，减少频繁GC触发。
• 监控缓存命中率：启用IMemoryCache统计功能（需配置），跟踪缓存性能并调整策略。
• 若资源允许，可为当前进程单独启用服务器GC：在项目文件中添加<ServerGarbageCollection>true</ServerGarbageCollection>，缓解进程间内存竞争。

内容的提问来源于stack exchange，提问作者Joshua