SetWindowsHookExW未调用MouseProc回调的问题排查

• WH_MOUSE属于线程级鼠标钩子，它只能捕获发送到钩子所在线程创建的窗口的鼠标消息。控制台程序的默认窗口由系统conhost.exe进程管理，你的程序线程没有自己的窗口，所以钩子回调永远不会触发。
• WH_MOUSE_LL是全局低级别钩子，不需要注入DLL，但卡顿通常是因为回调函数执行耗时过长，或者没有及时调用CallNextHookEx让消息继续传递。

线程级钩子需要关联到有消息队列且拥有自身窗口的线程，因此我们可以给控制台程序创建一个隐藏窗口，让钩子绑定到该窗口线程：

#include <windows.h>
#include <stdio.h>

HHOOK g_hMouseHook = NULL;
HWND g_hHiddenWnd = NULL;

// 鼠标钩子回调
LRESULT CALLBACK MouseProc(int nCode, WPARAM wParam, LPARAM lParam) {
    if (nCode >= 0) {
        if (wParam == WM_MOUSEMOVE) {
            MOUSEHOOKSTRUCT* pMouseHook = (MOUSEHOOKSTRUCT*)lParam;
            printf("鼠标位置：X=%d, Y=%d\n", pMouseHook->pt.x, pMouseHook->pt.y);
        }
    }
    return CallNextHookEx(g_hMouseHook, nCode, wParam, lParam);
}

// 窗口过程
LRESULT CALLBACK WndProc(HWND hWnd, UINT msg, WPARAM wParam, LPARAM lParam) {
    switch (msg) {
        case WM_DESTROY:
            PostQuitMessage(0);
            break;
        default:
            return DefWindowProc(hWnd, msg, wParam, lParam);
    }
    return 0;
}

int main() {
    // 注册窗口类
    WNDCLASSEXA wc = {0};
    wc.cbSize        = sizeof(WNDCLASSEXA);
    wc.lpfnWndProc   = WndProc;
    wc.hInstance     = GetModuleHandle(NULL);
    wc.lpszClassName = "HiddenMouseHookWindow";

    if (!RegisterClassExA(&wc)) {
        printf("注册窗口类失败，错误码：%d\n", GetLastError());
        return 1;
    }

    // 创建隐藏窗口
    g_hHiddenWnd = CreateWindowExA(
        0,
        "HiddenMouseHookWindow",
        "",
        0,
        0, 0, 0, 0,
        NULL, NULL, GetModuleHandle(NULL), NULL
    );

    if (!g_hHiddenWnd) {
        printf("创建窗口失败，错误码：%d\n", GetLastError());
        return 1;
    }

    // 设置线程级WH_MOUSE钩子
    g_hMouseHook = SetWindowsHookExA(
        WH_MOUSE,
        MouseProc,
        NULL,  // 线程钩子不需要DLL，传NULL
        GetCurrentThreadId()
    );

    if (!g_hMouseHook) {
        printf("设置钩子失败，错误码：%d\n", GetLastError());
        DestroyWindow(g_hHiddenWnd);
        return 1;
    }

    printf("钩子已安装，移动鼠标查看位置，按任意键退出...\n");
    // 开线程等待按键，避免阻塞消息循环
    HANDLE hInputThread = CreateThread(
        NULL, 0,
        (LPTHREAD_START_ROUTINE)[] (LPVOID param) -> DWORD {
            getchar();
            PostMessage(g_hHiddenWnd, WM_DESTROY, 0, 0);
            return 0;
        },
        NULL, 0, NULL
    );

    // 消息循环
    MSG msg;
    while (GetMessage(&msg, NULL, 0, 0) > 0) {
        TranslateMessage(&msg);
        DispatchMessage(&msg);
    }

    // 清理资源
    UnhookWindowsHookEx(g_hMouseHook);
    CloseHandle(hInputThread);
    DestroyWindow(g_hHiddenWnd);
    return 0;
}

如果坚持用低级别钩子，卡顿的核心是回调不能做耗时操作，必须快速返回，同时确保每次调用CallNextHookEx：

#include <windows.h>
#include <stdio.h>
#include <thread>

HHOOK g_hLowLevelMouseHook = NULL;

// 低级别钩子回调，必须极简执行
LRESULT CALLBACK LowLevelMouseProc(int nCode, WPARAM wParam, LPARAM lParam) {
    if (nCode >= 0 && wParam == WM_MOUSEMOVE) {
        MSLLHOOKSTRUCT* pMouseData = (MSLLHOOKSTRUCT*)lParam;
        // 异步输出避免阻塞回调
        std::thread([=]() {
            printf("鼠标位置：X=%d, Y=%d\n", pMouseData->pt.x, pMouseData->pt.y);
        }).detach();
    }
    // 必须调用此函数，否则会阻塞系统消息流
    return CallNextHookEx(g_hLowLevelMouseHook, nCode, wParam, lParam);
}

int main() {
    g_hLowLevelMouseHook = SetWindowsHookExA(
        WH_MOUSE_LL,
        LowLevelMouseProc,
        GetModuleHandle(NULL),
        0  // 全局钩子，覆盖所有线程
    );

    if (!g_hLowLevelMouseHook) {
        printf("设置低级别钩子失败，错误码：%d\n", GetLastError());
        return 1;
    }

    printf("低级别钩子已安装，移动鼠标查看位置，按任意键退出...\n");

    // 低级别钩子依赖消息循环才能工作
    MSG msg;
    while (GetMessage(&msg, NULL, 0, 0) > 0) {
        TranslateMessage(&msg);
        DispatchMessage(&msg);
    }

    UnhookWindowsHookEx(g_hLowLevelMouseHook);
    return 0;
}

• 线程级钩子（WH_MOUSE）必须绑定到有消息队列且拥有自身窗口的线程，否则无法捕获鼠标消息。
• 低级别钩子（WH_MOUSE_LL）不需要DLL，但依赖调用线程的消息循环，回调必须极简，耗时操作要异步处理。
• 控制台程序用消息循环时，单独开线程处理按键退出，避免主线程被输入阻塞。

内容的提问来源于stack exchange，提问作者vibhav950