Windows下Mutex释放时机解析及应用双实例限制问题

问题场景 #

之前通过将CreateMutex的bInitialOwner设为TRUE，成功实现了应用单实例运行，没有任何问题。尝试扩展为最多允许两个实例运行时，出现了异常情况：

• 打开三个实例时，第三个能正常输出“已有双实例”的提示，符合预期；
• 但关闭其中两个实例后再启动新实例，仍然提示已有双实例，只有将所有实例全部关闭后，才能恢复正常。

根据Windows文档，Mutex会在最后一个关联句柄被关闭时销毁，我原本以为进程终止后Mutex会自动释放，这一异常让我产生了疑惑。最初尝试在遇到ERROR_ALREADY_EXISTS时调用CloseHandle，但因测试的是旧版本二进制文件，误以为该操作无效，后来确认修正后的代码可以正常工作。

初始测试代码（存在问题） #

#include <windows.h>
#include <synchapi.h>

#include <codecvt>
#include <chrono>
#include <iostream>
#include <thread>

int main() {
    std::cout << "New instance started.\n";

    HANDLE mutex_handle = CreateMutexW(0, TRUE, L"myMutex1");
    if (GetLastError() == ERROR_ALREADY_EXISTS) {
        std::cout << "At least one instance is already running.\nChecking if this is the second instance...\n";

        HANDLE mutex_handle2 = CreateMutexW(0, TRUE, L"myMutex2");

        if (GetLastError() == ERROR_ALREADY_EXISTS) {
            std::cout << "A second instance also exists already.\n";
        }
    }

    // 模拟长时间运行程序，等待25秒
    std::this_thread::sleep_for(std::chrono::milliseconds(25000));

    return 0;
}

问题原因 #

初始代码的核心问题是：当调用CreateMutex检测到Mutex已存在时，没有关闭返回的句柄。即使进程只是用来检测Mutex是否存在，返回的句柄也会被该进程持有，直到进程退出才会被系统自动关闭。

例如第三个实例启动时，会先后获取myMutex1和myMutex2的句柄，且全程持有这两个句柄。当关闭前两个实例后，第三个实例仍在运行，它持有的两个Mutex句柄会阻止Mutex被销毁，导致新实例启动时仍能检测到两个Mutex存在，从而错误提示已有双实例。

修正方案 #

在检测到ERROR_ALREADY_EXISTS时，立即关闭返回的Mutex句柄——因为当前实例不需要持有该Mutex，只需完成检测即可。这样只有真正需要运行的实例（前两个）会持有对应的Mutex句柄，多余的实例检测完成后就释放句柄，不会影响后续的实例启动判断。

修正后的代码 #

#include <windows.h>
#include <synchapi.h>

#include <codecvt>
#include <chrono>
#include <iostream>
#include <thread>

int main() {
    std::cout << "New instance started.\n";

    HANDLE mutex_handle = CreateMutexW(0, TRUE, L"myMutex1");
    if (GetLastError() == ERROR_ALREADY_EXISTS) {
        if (mutex_handle != NULL)
        {
            CloseHandle(mutex_handle);
        }

        std::cout << "At least one instance is already running.\nChecking if this is the second instance...\n";

        HANDLE mutex_handle2 = CreateMutexW(0, TRUE, L"myMutex2");
        if (GetLastError() == ERROR_ALREADY_EXISTS) {
            if (mutex_handle2 != NULL)
            {
                CloseHandle(mutex_handle2);
            }
            
            std::cout << "A second instance also exists already.\n";
        }
    }

    // 模拟长时间运行程序，等待25秒
    std::this_thread::sleep_for(std::chrono::milliseconds(25000));

    return 0;
}

内容的提问来源于stack exchange，提问作者frankenapps