基于IMemoryCache与动态命名Semaphore的并发缓存可行性咨询

原方案的潜在问题 #

你的代码意图是通过命名Semaphore实现同一code的请求串行化，避免重复执行耗时的工厂方法，但存在几个关键问题：

• 系统级信号量的跨进程干扰：new Semaphore(1, 1, code)创建的是系统命名信号量，同一机器上的其他进程如果使用了相同的code字符串，会共享这个信号量，导致非预期的跨进程阻塞。此外，系统命名对象有字符限制（比如不能包含斜杠等特殊字符），如果code包含非法字符，会直接抛出异常。
• 系统资源泄漏：命名信号量属于系统级资源，创建后即使你的进程不再使用，系统也不会自动回收这些句柄。长期运行后，句柄数量会随着不同code的增加而积累，最终可能导致系统资源耗尽。
• 同步阻塞浪费线程池资源：你的方法是async Task，但调用了semaphore.WaitOne()同步阻塞线程。在高并发场景下，大量线程被阻塞会耗尽线程池，严重影响系统的吞吐量，违背了异步编程的初衷。

改进后的可行方案 #

推荐使用进程内轻量级的SemaphoreSlim，结合ConcurrentDictionary来管理每个code对应的信号量，既实现同一code的串行化，又避免上述问题：

private readonly IMemoryCache _cache;
private readonly ConcurrentDictionary<string, SemaphoreSlim> _semaphoreCache = new ConcurrentDictionary<string, SemaphoreSlim>();

public async Task<TC> RetrieveValue(string code)
{
    // 初次检查缓存
    if (_cache.TryGetValue(code, out var tc))
    {
        return tc;
    }

    // 获取或创建当前code对应的信号量
    var semaphore = _semaphoreCache.GetOrAdd(code, _ => new SemaphoreSlim(1, 1));

    try
    {
        // 异步等待信号量，不阻塞线程
        await semaphore.WaitAsync();

        // 二次检查缓存：避免等待期间其他线程已写入缓存
        if (_cache.TryGetValue(code, out tc))
        {
            return tc;
        }

        // 执行工厂方法并写入缓存
        return await _cache.GetOrCreateAsync<TC>(code, entry =>
        {
            // 可按需配置缓存过期策略
            entry.SlidingExpiration = TimeSpan.FromMinutes(30);
            return /* 你的TC异步工厂方法 */;
        });
    }
    finally
    {
        semaphore.Release();
        // 可选：缓存过期后清理对应的信号量，减少内存占用
        if (!_cache.TryGetValue(code, out _))
        {
            _semaphoreCache.TryRemove(code, out _);
        }
    }
}

改进方案的优势 #

• 进程内隔离：SemaphoreSlim是进程内的轻量级同步对象，不会与其他进程产生交互，也不会占用系统级句柄，避免资源泄漏。
• 异步友好：WaitAsync()采用异步等待模式，不会阻塞线程池线程，高并发场景下能保持系统的响应能力。
• 精准控制：ConcurrentDictionary确保每个code对应唯一的信号量，不同code的请求完全并行，不会互相干扰。
• 双重检查优化：进入信号量后再次检查缓存，避免不必要的工厂方法调用，提升性能。

原方案的规模可行性 #

原方案在100个不同code的规模下短期运行可能正常，但长期来看，系统句柄泄漏、跨进程干扰等问题会逐渐显现，属于不可靠的方案，建议尽快替换为改进后的实现。

内容的提问来源于stack exchange，提问作者Heinrich