SetLayeredWindowAttributes仅特定颜色支持穿透，Windows11下如何解决？

问题现象 #

尝试创建带点击穿透特性的全透明窗口，仅保留少量UI控件可交互。透明效果对所有颜色键均有效，但点击穿透仅在红、蓝通道值相等时生效，绿色通道无限制；使用红≠蓝的颜色键时，点击穿透功能失效。

示例代码 #

COLORREF const TRANS_COLOR = RGB(0xFF, 0, 0xFF); // 正常工作
//COLORREF const TRANS_COLOR = RGB(0, 0xFF, 0xFF); // 点击穿透失效！

...

hWndMain = CreateWindowEx(WS_EX_TOPMOST, szWndClassMain, szWndTitleMain, WS_OVERLAPPEDWINDOW,
                          CW_USEDEFAULT, CW_USEDEFAULT, CW_USEDEFAULT, CW_USEDEFAULT,
                          NULL, NULL, hInst, NULL);

//SetWindowLong(hWndMain, GWL_EXSTYLE, GetWindowLong(hWndMain, GWL_EXSTYLE) | WS_EX_TRANSPARENT);
SetWindowLong(hWndMain, GWL_EXSTYLE, GetWindowLong(hWndMain, GWL_EXSTYLE) | WS_EX_LAYERED);
SetLayeredWindowAttributes(hWndMain, TRANS_COLOR, 0, LWA_COLORKEY);

...

WNDCLASS wc;
wc.hbrBackground = CreateSolidBrush(TRANS_COLOR);
...
RegisterClass(&wc);

成因分析 #

问题核心在于分层窗口颜色键的精确像素匹配机制，以及GDI绘制背景时的颜色转换偏差：

• SetLayeredWindowAttributes的LWA_COLORKEY参数要求窗口像素与指定颜色键完全精确匹配，才会将该区域标记为可点击穿透的透明区域。
• 使用CreateSolidBrush创建背景画刷时，GDI绘制窗口背景时，部分红≠蓝的颜色会因系统颜色管理、设备上下文（DC）的颜色格式转换或Aero合成的内部处理，导致实际窗口像素颜色与定义的TRANS_COLOR出现细微偏差。
• 视觉透明效果生效是因为系统对颜色的近似匹配也会处理为透明，但点击穿透逻辑要求严格精确匹配，因此只有红=蓝的颜色能通过匹配实现点击穿透。

解决方案 #

方案1：确保背景颜色与颜色键完全匹配 #

通过WM_ERASEBKGND消息直接绘制背景，避免GDI画刷的颜色转换问题：

LRESULT CALLBACK WndProc(HWND hWnd, UINT message, WPARAM wParam, LPARAM lParam)
{
    switch (message)
    {
        case WM_ERASEBKGND:
        {
            HDC hdc = (HDC)wParam;
            RECT rc;
            GetClientRect(hWnd, &rc);
            // 设置DC画刷颜色为精确的TRANS_COLOR
            SetDCBrushColor(hdc, TRANS_COLOR);
            // 用当前画刷填充客户区
            FillRect(hdc, &rc, (HBRUSH)GetStockObject(DC_BRUSH));
            return TRUE; // 告知系统已处理背景擦除
        }
        // 其他消息处理...
    }
    return DefWindowProc(hWnd, message, wParam, lParam);
}

同时将窗口类的背景画刷设置为NULL_BRUSH，禁用系统自动绘制：

WNDCLASS wc;
wc.hbrBackground = (HBRUSH)NULL_BRUSH;
...
RegisterClass(&wc);

方案2：使用UpdateLayeredWindow替代SetLayeredWindowAttributes #

直接通过带Alpha通道的位图控制透明区域，完全规避颜色键匹配问题，是更可靠的实现方式：

// 创建带Alpha通道的位图，透明区域Alpha=0，可交互区域Alpha=255
int width = 800;
int height = 600;
HDC hDC = GetDC(NULL);
HBITMAP hBitmap = CreateCompatibleBitmap(hDC, width, height);
BITMAPINFO bmi = {0};
bmi.bmiHeader.biSize = sizeof(BITMAPINFOHEADER);
bmi.bmiHeader.biWidth = width;
bmi.bmiHeader.biHeight = -height; // 以顶部为原点
bmi.bmiHeader.biPlanes = 1;
bmi.bmiHeader.biBitCount = 32;
bmi.bmiHeader.biCompression = BI_RGB;

BYTE* pBits = nullptr;
HDC hMemDC = CreateCompatibleDC(hDC);
HBITMAP hOldBitmap = (HBITMAP)SelectObject(hMemDC, hBitmap);
GetDIBits(hMemDC, hBitmap, 0, height, pBits, &bmi, DIB_RGB_COLORS);

// 填充位图：全透明区域设为Alpha=0，按需绘制可交互控件区域（Alpha=255）
memset(pBits, 0, width * height * 4);

// 更新分层窗口
POINT ptSrc = {0,0};
POINT ptDst = {0,0};
SIZE szWnd = {width, height};
BLENDFUNCTION blend = {AC_SRC_OVER, 0, 255, AC_SRC_ALPHA};
UpdateLayeredWindow(hWndMain, hDC, &ptDst, &szWnd, hMemDC, &ptSrc, 0, &blend, ULW_ALPHA);

// 释放资源
SelectObject(hMemDC, hOldBitmap);
DeleteDC(hMemDC);
DeleteObject(hBitmap);
ReleaseDC(NULL, hDC);

方案3：配合WS_EX_TRANSPARENT属性 #

若仅需简单点击穿透，可同时启用WS_EX_TRANSPARENT和WS_EX_LAYERED，但此方式会让整个窗口忽略鼠标输入，需单独处理控件交互：

SetWindowLong(hWndMain, GWL_EXSTYLE, GetWindowLong(hWndMain, GWL_EXSTYLE) | WS_EX_LAYERED | WS_EX_TRANSPARENT);
SetLayeredWindowAttributes(hWndMain, TRANS_COLOR, 0, LWA_COLORKEY);

内容的提问来源于stack exchange，提问作者Simpleton