Hook WINAPI实现Qt窗口背景透明遇阻：预览仍显黑色求解决方案

在Visual Studio的Qt Designer插件中，将MainWindow背景设置为transparent后预览窗口，背景会全黑显示：

我想知道是否可以通过Hook任意WINAPI来实现窗口背景透明？目前已经Hook了CreateWindowExW并给dwExStyle加上WS_EX_TRANSPARENT，但背景还是黑色。还有哪些方法可以尝试？

HWND WINAPI Hook_CreateWindowExW(DWORD dwExStyle,
    LPCWSTR   lpClassName,
    LPCWSTR   lpWindowName,
    DWORD     dwStyle,
    int       X,
    int       Y,
    int       nWidth,
    int       nHeight,
    HWND      hWndParent,
    HMENU     hMenu,
    HINSTANCE hInstance,
    LPVOID    lpParam
)
{    
    if (std::wstring_view(lpClassName).find(L"Qt631QWindowIcon") != std::wstring_view::npos)
    {
        dwExStyle |= WS_EX_TRANSPARENT;
    }

    HWND hWnd = CreateWindowExW_Hook(dwExStyle , lpClassName, lpWindowName, dwStyle
        , X, Y, nWidth, nHeight, hWndParent, hMenu, hInstance, lpParam);

    return hWnd;     
}

可尝试的其他Hook方法及调整策略 #

1. 同时Hook SetWindowLongPtrW 修改扩展样式 #

Qt程序可能在窗口创建后再修改扩展样式，仅HookCreateWindowExW可能被后续操作覆盖。可以HookSetWindowLongPtrW，当参数为GWL_EXSTYLE时，强制加上WS_EX_TRANSPARENT和WS_EX_LAYERED：

LONG_PTR WINAPI Hook_SetWindowLongPtrW(HWND hWnd, int nIndex, LONG_PTR dwNewLong)
{
    if (nIndex == GWL_EXSTYLE)
    {
        // 同时启用分层窗口和透明扩展样式
        dwNewLong |= WS_EX_TRANSPARENT | WS_EX_LAYERED;
    }
    return SetWindowLongPtrW_Hook(hWnd, nIndex, dwNewLong);
}

2. Hook SetLayeredWindowAttributes 设置透明色 #

分层窗口需要配合SetLayeredWindowAttributes才能真正实现透明。可以Hook这个函数，将透明色设置为黑色（对应预览窗口的黑色背景）：

BOOL WINAPI Hook_SetLayeredWindowAttributes(HWND hWnd, COLORREF crKey, BYTE bAlpha, DWORD dwFlags)
{
    // 将黑色设为透明色，保持窗口内容全不透明
    return SetLayeredWindowAttributes_Hook(hWnd, RGB(0,0,0), 255, LWA_COLORKEY);
}

3. Hook窗口过程拦截WM_ERASEBKGND消息 #

窗口背景变黑可能是因为系统擦除背景时填充了黑色。可以Hook窗口过程，拦截WM_ERASEBKGND消息并直接返回TRUE，阻止系统绘制背景：

LRESULT CALLBACK Hook_WndProc(HWND hWnd, UINT uMsg, WPARAM wParam, LPARAM lParam, UINT_PTR uIdSubclass, DWORD_PTR dwRefData)
{
    if (uMsg == WM_ERASEBKGND)
    {
        // 跳过背景擦除，避免黑色填充
        return TRUE;
    }
    return DefSubclassProc(hWnd, uMsg, wParam, lParam);
}

也可以在Hook_CreateWindowExW创建窗口后，给目标窗口设置子类过程：

// 在Hook_CreateWindowExW返回前添加
SetWindowSubclass(hWnd, Hook_WndProc, 0, 0);

4. 修正目标窗口类名判断 #

当前Hook的是Qt631QWindowIcon类，但实际的MainWindow预览窗口类名可能不同（比如Qt6QMainWindow）。可以用Spy++工具查看预览窗口的真实类名，调整判断条件。

内容的提问来源于stack exchange，提问作者Cesar