Win32 Overlay窗口无法从游戏进程释放鼠标输入的问题排查

问题描述 #

我正在开发一款C++ Windows程序，通过Win32窗口+DirectX11渲染器在游戏窗口上方叠加显示统计/好友信息UI，支持键鼠交互。窗口初始设置WS_EX_TRANSPARENT和WS_POPUP标志，激活时切换为WS_EX_LAYERED以捕获输入。通过GetWindow(target_, GW_HWNDPREV)检查窗口层级，若不在目标游戏窗口上方则调用SetWindowPos(SWP_NOACTIVATE | SWP_NOMOVE | SWP_NOSIZE | SWP_ASYNCWINDOWPOS)置顶。

目前在Windows 11 22H2的Portal 2中测试，遇到以下问题：

• 从Visual Studio运行程序时，调用SetForegroundWindow/SetActiveWindow/SetFocus可以成功激活窗口并释放游戏的鼠标捕获
• 直接运行编译后的Debug/Release可执行文件时，鼠标仍被锁定在游戏内，无法切换到我的窗口

已尝试确认窗口标志设置正确、SetWindowPos调用正常，也试过ShowWindow(SW_SHOW)，均无效。不想用低级钩子或DirectX钩子（需手动白名单多游戏），求排查方向或替代方案。

代码示例 #

LRESULT Renderer::WndProc(...) {
    switch (message) {
    case WM_SIZE:
        // resize buffers and recreate render target view
        return 0;

    case WM_DESTROY:
        PostQuitMessage(0);
        return 0;
    }

    return DefWindowProc(handle, message, w_param, l_param);
}

bool Window::Create(...) {
    // ...
    hwnd_ = CreateWindowEx(
        wndclass,
        class_name_.c_str(),
        title_.c_str(),
        WS_POPUP,
        0, 0, 10, 10,
        nullptr,
        nullptr,
        nullptr,
        nullptr
    );

    SetLayeredWindowAttributes(hwnd_, 0, 255, LWA_ALPHA);
    UpdateWindow(hwnd_);

    constexpr MARGINS margin = {-1, -1, -1, -1};
    const auto result = DwmExtendFrameIntoClientArea(hwnd_, &margin);
    
    // ...
}

void Window::Activate() {
    // Remove the WS_EX_LAYERED attribute.
    SetClickThrough(false);

    SetForegroundWindow(hwnd_);
    SetActiveWindow(hwnd_);
    SetFocus(hwnd_);
}

// ----------------------
// Sample main routine pseudocode:
// ----------------------

renderer->window.Create(...);
while (renderer->is_running()) {
    renderer->BeginFrame();

    // Position the window on top of the game found.
    renderer->window().FollowTarget();

    // Toggle the visibility using the F2 key.
    // If transitioning from hidden to visible, call the window
    // activation routine.
    if (utils::KeyPressed(VK_F2)) {
        if (ui->is_visible()) {
            // .. window deactivation not included
            ui->set_visible(false);
        }
        else {
            renderer->window().Activate();
            ui->set_visible(true);
        }
    }   

    ui->Draw(renderer);
    renderer->Present();
}

排查方向与解决方案 #

1. 前台窗口权限限制 #

Windows对SetForegroundWindow有严格权限控制，直接运行程序时可能因无"前台激活权限"导致调用失效：

• 调用前先模拟一次无害输入事件，触发系统的前台切换允许规则：

  keybd_event(VK_SHIFT, 0, 0, 0);
  keybd_event(VK_SHIFT, 0, KEYEVENTF_KEYUP, 0);
  

• 调用AllowSetForegroundWindow(ASFW_ANY)，允许任何进程设置前台窗口（需确保程序以管理员身份运行）

2. 游戏的鼠标锁定机制 #

多数游戏会用ClipCursor或SetCapture锁定鼠标，需强制释放：

• 激活窗口时调用ReleaseCapture()释放全局鼠标捕获
• 调用ClipCursor(NULL)清除鼠标区域限制（注意：操作完成后最好恢复游戏的鼠标区域，避免影响体验）

3. 窗口属性修改顺序问题 #

先修改窗口样式再激活可能导致状态不同步，调整顺序测试：

void Window::Activate() {
    // 先激活窗口，再切换输入捕获样式
    SetForegroundWindow(hwnd_);
    SetActiveWindow(hwnd_);
    SetFocus(hwnd_);
    
    SetClickThrough(false);
    // 刷新窗口状态
    SetWindowPos(hwnd_, HWND_TOP, 0, 0, 0, 0, SWP_NOMOVE | SWP_NOSIZE | SWP_SHOWWINDOW);
}

4. DWM扩展边框的影响 #

DwmExtendFrameIntoClientArea可能干扰输入捕获区域，可先注释该代码测试。若需保留透明效果，改用WS_EX_LAYERED结合LWA_COLORKEY实现，而非依赖DWM边框扩展。

5. 窗口置顶逻辑的时机 #

每帧调用的FollowTarget()可能用SWP_NOACTIVATE覆盖激活状态，可在激活窗口时临时设置为最顶层：

// 激活时临时置顶
SetWindowPos(hwnd_, HWND_TOPMOST, 0, 0, 0, 0, SWP_NOMOVE | SWP_NOSIZE);
// 激活完成后恢复跟随目标窗口的逻辑
SetWindowPos(hwnd_, HWND_NOTOPMOST, 0, 0, 0, 0, SWP_NOMOVE | SWP_NOSIZE);

内容的提问来源于stack exchange，提问作者BrianPx82