如何让Win32/OpenGL应用的最大化按钮显示悬浮全屏弹窗？

问题背景 #

我用C++、OpenGL和Win32开发Windows 11应用，参考VS Code的实现思路：通过OpenGL绘制整个窗口，移除系统标题栏将整窗设为客户区，以此规避WM_NCPAINT相关问题。实现时通过处理WM_NCCALCSIZE移除标题栏区域，同时正确处理WM_NCHITTEST——光标在自定义最大化按钮位置时返回HTMAXBUTTON，点击可正常触发窗口最大化，但光标悬停时原生Windows全屏悬浮弹窗不显示，而VS Code（同样用图形API绘制整窗）却能正常显示该弹窗。

问题根源 #

经排查，问题出在WM_NCCALCSIZE的处理逻辑上。错误的处理方式会让系统无法正确识别最大化按钮对应的非客户区位置，因此不会触发原生悬浮弹窗的绘制。

解决方案 #

修改WM_NCCALCSIZE的处理代码，使用InflateRect调整窗口区域，而非直接移除标题栏区域。

错误处理示例（导致弹窗不显示） #

case WM_NCCALCSIZE:
    if (wParam) {
        NCCALCSIZE_PARAMS* pParams = reinterpret_cast<NCCALCSIZE_PARAMS*>(lParam);
        // 直接移除标题栏区域，导致系统无法识别非客户区按钮位置
        pParams->rgrc[0].top += GetSystemMetrics(SM_CYCAPTION);
        return 0;
    }
    break;

正确处理示例（修复弹窗显示） #

case WM_NCCALCSIZE:
    if (wParam) {
        NCCALCSIZE_PARAMS* pParams = reinterpret_cast<NCCALCSIZE_PARAMS*>(lParam);
        // 使用InflateRect调整窗口区域，保留系统对非客户区的识别
        InflateRect(&pParams->rgrc[0], 0, -GetSystemMetrics(SM_CYCAPTION), 0, 0);
        return WVR_REDRAW;
    }
    break;

调整后，系统能正确识别HTMAXBUTTON对应的区域，光标悬停时原生全屏悬浮弹窗即可正常显示。

内容的提问来源于stack exchange，提问作者Jack Henrikson