应用启动时创建的Mutex释放失败，如何正确关闭该互斥量？

嘿，我看你遇到了ReleaseMutex返回false的问题，咱们来一步步理清楚问题出在哪，以及怎么解决。

首先，你当前代码的核心问题是：ReleaseMutex只能由拥有该Mutex所有权的线程调用，而你的线程从始至终都没拿到这个Mutex的所有权，所以调用肯定会失败。

咱们先看你最初的单实例代码：

if CreateMutex(nil,false,'Proton Studio') = 0 then RaiseLastOSError;
if GetLastError = ERROR_ALREADY_EXISTS then exit;

这里你把CreateMutex的第二个参数bInitialOwner设为了false，这意味着即使是你创建了这个Mutex，当前线程也不会自动获得它的所有权。这种方式判断单实例是没问题的，但也导致你后续没有权限调用ReleaseMutex——因为你根本没拥有过它。

那正确的处理方式是什么呢？其实对于单实例控制的Mutex，我们不需要手动调用ReleaseMutex，只要关闭当前进程持有的Mutex句柄，系统就会自动销毁它，这样重启程序就能顺利启动新的应用实例了。

修正后的完整代码步骤： #

1. 全局保存Mutex句柄
   先定义一个全局变量来存储Mutex的句柄，避免创建后丢失引用：

   var
     g_hSingleInstanceMutex: THandle;
   

2. 启动时的单实例判断
   启动时创建Mutex并检查是否已有实例，同时保留句柄：

   g_hSingleInstanceMutex := CreateMutex(nil, False, 'Proton Studio');
   if g_hSingleInstanceMutex = 0 then
     RaiseLastOSError;
   
   if GetLastError = ERROR_ALREADY_EXISTS then
   begin
     // 已有实例在运行，关闭无用句柄并退出
     CloseHandle(g_hSingleInstanceMutex);
     ShowMessage('Proton Studio is already running!');
     Exit;
   end;
   

3. 重启时的正确处理
   在需要重启应用时，直接关闭我们持有的Mutex句柄，然后启动重启程序：

   // 关闭Mutex句柄，让系统自动销毁它
   if g_hSingleInstanceMutex <> 0 then
   begin
     CloseHandle(g_hSingleInstanceMutex);
     g_hSingleInstanceMutex := 0; // 置空防止重复关闭
   end;
   
   // 启动重启程序并关闭主窗口
   if ShellExecute(Application.Handle, 'open', PChar('StudioRestart.exe'), PChar(Application.ExeName), '', SW_SHOWNORMAL) > 32 then
     fmIDEMain.Close
   else
     ShowMessage('Unable to Restart, please close and restart manually');
   

为什么这样能行？ #

当你关闭当前进程持有的Mutex句柄后，系统会检查是否还有其他进程持有这个Mutex的句柄。因为原来的单实例逻辑确保只有第一个进程会保留这个句柄，所以关闭后就没有其他句柄了，系统会自动销毁这个Mutex。此时你的重启程序就能正常创建新的Mutex，启动新的应用实例。

如果你之前误以为需要调用ReleaseMutex，那是混淆了Mutex的所有权和句柄持有权——所有权是线程级的，用于同步；而句柄持有权是进程级的，决定Mutex的生命周期。咱们的单实例场景只需要用到句柄持有权来判断实例是否存在，不需要涉及所有权的释放。

内容的提问来源于stack exchange，提问作者John Barrat