MFC中TaskDialog深色模式实现问题求助（未公开API+钩子方案）

一、修复TaskDialogIndirect仅标题栏深色的问题 #

TaskDialogIndirect本身支持深色模式，但需正确配置主题属性并为子控件应用深色主题：

• 应用初始化时启用全局深色模式支持（Windows 10 1809+）：

  BOOL EnableDarkMode(HWND hWnd) {
      typedef BOOL(WINAPI* SetWindowThemeAttributePtr)(HWND, WINDOWTHEMEATTRIBUTETYPE, LPVOID, DWORD);
      auto pSetWindowThemeAttribute = reinterpret_cast<SetWindowThemeAttributePtr>(
          GetProcAddress(GetModuleHandle(L"uxtheme.dll"), "SetWindowThemeAttribute")
      );
      if (pSetWindowThemeAttribute) {
          WTA_OPTIONS options = { WTAO_NONCLIENT, TRUE };
          return pSetWindowThemeAttribute(hWnd, WTA_NONCLIENT, &options, sizeof(options));
      }
      return FALSE;
  }
  
  // 在CWinApp::InitInstance中调用
  EnableDarkMode(m_pMainWnd->m_hWnd);
  

• 在TaskDialog回调中为对话框及所有子控件设置深色主题：

  HRESULT CALLBACK TaskDialogCallbackProc(HWND hWnd, UINT uMsg, WPARAM wParam, LPARAM lParam, LONG_PTR dwRefData) {
      switch (uMsg) {
          case TDN_CREATED: {
              // 为对话框本体应用深色主题
              SetWindowTheme(hWnd, L"DarkMode_Explorer", nullptr);
              // 遍历子控件并设置主题
              HWND hChild = GetWindow(hWnd, GW_CHILD);
              while (hChild) {
                  SetWindowTheme(hChild, L"DarkMode_Explorer", nullptr);
                  hChild = GetWindow(hChild, GW_HWNDNEXT);
              }
              // 强制刷新所有控件
              RedrawWindow(hWnd, nullptr, nullptr, RDW_INVALIDATE | RDW_ALLCHILDREN);
              break;
          }
      }
      return S_OK;
  }
  

  调用TaskDialogIndirect时，将pfCallback参数指向上述回调函数。

二、修复WH_CBT钩子的控件样式问题 #

使用WH_CBT钩子时，需在控件创建阶段就为其设置深色主题，而非仅处理主窗口：

#define TASK_DIALOG_MARKER 0xDEADBEEF

LRESULT CALLBACK CBTProc(int nCode, WPARAM wParam, LPARAM lParam) {
    if (nCode == HCBT_CREATEWND) {
        HWND hWnd = reinterpret_cast<HWND>(wParam);
        HWND hParent = GetParent(hWnd);
        // 识别TaskDialog窗口（需提前标记）
        if (hParent && GetWindowLongPtr(hParent, GWLP_USERDATA) == TASK_DIALOG_MARKER) {
            SetWindowTheme(hWnd, L"DarkMode_Explorer", nullptr);
            // 修复按钮样式
            WCHAR className[256];
            GetClassName(hWnd, className, 256);
            if (wcscmp(className, WC_BUTTON) == 0) {
                SetWindowLongPtr(hWnd, GWL_STYLE, GetWindowLongPtr(hWnd, GWL_STYLE) | BS_PUSHLIKE);
            }
        }
    }
    return CallNextHookEx(nullptr, nCode, wParam, lParam);
}

注意：在TaskDialog创建后（TDN_CREATED回调中），需执行SetWindowLongPtr(hWnd, GWLP_USERDATA, TASK_DIALOG_MARKER)标记窗口，方便钩子识别。

三、解决WM_CTLCOLOR未触发的问题 #

WM_CTLCOLOR消息直接发送给控件父窗口，WH_CALLWNDPROC钩子可能无法拦截，建议改用子控件子类化或WH_GETMESSAGE钩子：

方案1：子控件子类化处理 #

在TDN_CREATED回调中，为静态文本、按钮等控件子类化，直接处理颜色消息：

WNDPROC oldStaticProc;
LRESULT CALLBACK StaticSubclassProc(HWND hWnd, UINT uMsg, WPARAM wParam, LPARAM lParam) {
    if (uMsg == WM_CTLCOLORSTATIC) {
        HDC hdc = reinterpret_cast<HDC>(wParam);
        // 设置白色文本+深色背景
        SetTextColor(hdc, RGB(255, 255, 255));
        SetBkColor(hdc, RGB(32, 32, 32));
        return reinterpret_cast<LRESULT>(GetStockObject(BLACK_BRUSH));
    }
    return CallWindowProc(oldStaticProc, hWnd, uMsg, wParam, lParam);
}

// 在TDN_CREATED回调中添加：
HWND hChild = GetWindow(hWnd, GW_CHILD);
while (hChild) {
    WCHAR className[256];
    GetClassName(hChild, className, 256);
    if (wcscmp(className, L"Static") == 0) {
        oldStaticProc = reinterpret_cast<WNDPROC>(
            SetWindowLongPtr(hChild, GWLP_WNDPROC, reinterpret_cast<LONG_PTR>(StaticSubclassProc))
        );
    }
    hChild = GetWindow(hChild, GW_HWNDNEXT);
}

方案2：WH_GETMESSAGE钩子拦截 #

LRESULT CALLBACK GetMsgProc(int nCode, WPARAM wParam, LPARAM lParam) {
    if (nCode >= 0 && wParam == PM_REMOVE) {
        MSG* pMsg = reinterpret_cast<MSG*>(lParam);
        HWND hParent = GetParent(pMsg->hwnd);
        if (hParent && GetWindowLongPtr(hParent, GWLP_USERDATA) == TASK_DIALOG_MARKER) {
            switch (pMsg->message) {
                case WM_CTLCOLORSTATIC:
                case WM_CTLCOLORDLG:
                case WM_CTLCOLORBTN: {
                    HDC hdc = reinterpret_cast<HDC>(pMsg->wParam);
                    SetTextColor(hdc, RGB(255, 255, 255));
                    SetBkColor(hdc, RGB(32, 32, 32));
                    return reinterpret_cast<LRESULT>(GetStockObject(BLACK_BRUSH));
                }
            }
        }
    }
    return CallNextHookEx(nullptr, nCode, wParam, lParam);
}

四、备选方案：手动编译Microsoft Detours #

DarkTaskDialog仓库的方案其实更成熟，只是需要手动编译Detours：

1. 从官方仓库下载Detours源码，用VS编译对应平台（x86/x64）的静态库/动态库
2. 将DarkTaskDialog的代码加入项目，配置包含路径和库依赖
3. 确保运行时库版本与Detours编译版本一致

内容的提问来源于stack exchange，提问作者Andrew Truckle