使用Rust调用Win32 CreateMutexA无法阻止程序多实例运行问题

为阻止应用程序多实例运行，通过Win32 API的CreateMutexA创建互斥量，但仍能启动多个进程，且会创建多个同名互斥量，请问问题出在哪里？

代码实现 #

use windows::Win32::Foundation::{
    GetLastError,
    ERROR_ALREADY_EXISTS
};
use windows::Win32::System::Threading::{
    CreateMutexA,
};
use windows::core::PCSTR;

pub fn prevent_duplicate() {
    let mutex_key = static_key_as_string!();
    log::info!("Mutex value: {mutex_key}");

    log::info!("Creating Mutex");
    unsafe {
        match CreateMutexA(None, false, PCSTR(mutex_key.as_ptr() as *const u8)) {
            Ok(_) => {
                let error = GetLastError();
                log::error!("{:?} {:?}", error, ERROR_ALREADY_EXISTS);
                if error == ERROR_ALREADY_EXISTS {
                    log::info!("Mutex exists. Exiting");
                    std::process::exit(0)
                }
            },
            Err(_) => {
                log::error!("Could not check existence of Mutext. Continuing");
            },
        };
    }
}

进程输出 #

进程1输出 #

[INFO ] Mutex value: P889Z0Hhy2TKEPykDSLuSWdE9bJfNfCsK87aqgNGZ6b09NBIwBh6bwJBj98AkTzO
[INFO ] Creating Mutex
[ERROR] WIN32_ERROR(0) WIN32_ERROR(183)

进程2输出 #

[INFO ] Mutex value: P889Z0Hhy2TKEPykDSLuSWdE9bJfNfCsK87aqgNGZ6b09NBIwBh6bwJBj98AkTzO
[INFO ] Creating Mutex
[ERROR] WIN32_ERROR(0) WIN32_ERROR(183)

问题分析与解决方案 #

核心问题1：错误的时机调用GetLastError() #

windows-rs crate对Win32 API的封装逻辑是：当API调用成功返回Ok(_)时，内部会重置GetLastError()为0，导致你无法获取到CreateMutexA原本设置的ERROR_ALREADY_EXISTS错误码。而Win32原生逻辑中，CreateMutexA在同名互斥量已存在时，会成功返回句柄并设置GetLastError()为ERROR_ALREADY_EXISTS，这一步被封装层覆盖了。

核心问题2：互斥量命名空间隔离 #

直接使用普通字符串作为互斥量名称，系统会将其放在当前会话的私有命名空间中（比如不同用户登录会话、远程桌面会话），导致不同进程可能处于不同命名空间，无法共享同一个互斥量。

修正后的代码 #

use windows::Win32::Foundation::{GetLastError, ERROR_ALREADY_EXISTS, WIN32_ERROR};
use windows::Win32::System::Threading::CreateMutexA;
use windows::core::PCSTR;

pub fn prevent_duplicate() {
    // 添加Global\\前缀，将互斥量放入全局命名空间，确保跨会话可见
    let mutex_key = format!("Global\\{}", static_key_as_string!());
    log::info!("Mutex value: {mutex_key}");

    log::info!("Creating Mutex");
    unsafe {
        // 直接调用API，不依赖windows-rs的Result封装，避免错误码被重置
        let h_mutex = CreateMutexA(None, false, PCSTR(mutex_key.as_ptr() as *const u8));
        let last_error = WIN32_ERROR::from_raw(GetLastError());

        // 检查互斥量是否创建失败
        if h_mutex.is_null() {
            log::error!("Failed to create mutex. Continuing execution");
            return;
        }

        // 检查是否已有同名互斥量存在
        if last_error == ERROR_ALREADY_EXISTS {
            log::info!("Mutex already exists. Exiting process");
            std::process::exit(0);
        }
    }
}

关键修正点说明 #

• 全局命名空间前缀：添加Global\\前缀后，互斥量会被放在系统全局命名空间，同一台机器上的所有会话（不同用户、远程桌面）都能访问到这个互斥量，避免隔离问题。如果只需要当前用户会话内阻止多实例，也可以用Local\\前缀。
• 正确获取错误码：绕过windows-rs的Result封装，直接获取API调用后的GetLastError()值，确保能正确捕获ERROR_ALREADY_EXISTS状态。
• 权限注意：创建全局命名空间的互斥量需要基本的系统权限，普通用户程序默认具备该权限，但若程序启用了UAC虚拟化，可能需要调整权限设置（一般场景下无需额外处理）。

内容的提问来源于stack exchange，提问作者Tom Stock