SetWindowsHookEx(WH_SHELL)失效，ShellProc未触发问题求助

问题背景 #

我需要监控系统中所有进程创建的新窗口，但使用SetWindowsHookEx设置WH_SHELL钩子始终无法正常工作，以下是两次尝试的细节：

首次尝试：控制台程序直接设钩子 #

• 编写控制台程序调用SetWindowsHookEx设置WH_SHELL钩子，钩子过程ShellHookProcedure完全未触发。
• 改用GetCurrentThreadId()作为线程ID后，仅能监控自身进程创建的窗口，无法捕获其他进程的窗口事件。

二次尝试：DLL全局钩子 #

• 编写ShellHookDll动态库导出ShellHookDll_ShellHookProcedure，主程序WindowsWatcher加载DLL并设置全局钩子。
• DLL加载成功且能获取函数地址，但其他进程创建窗口时，钩子内的消息框从未弹出。

尝试代码 #

首次尝试代码 #

#include <Windows.h>
#include <iostream>

bool ShellHookProcedureFinished{};

LRESULT CALLBACK ShellHookProcedure(int code, WPARAM wParam, LPARAM lParam) {
    if(code == HSHELL_WINDOWCREATED)
        std::cout << "Window Created!\n";

    ShellHookProcedureFinished = true;

    return CallNextHookEx(0, code, wParam, lParam);
}

int main() {
    SetWindowsHookEx(WH_SHELL, ShellHookProcedure, nullptr, NULL);

    while(!ShellHookProcedureFinished)
        Sleep(1000);

    std::cout << "Main function finished!";
}

二次尝试代码 #

ShellHookDll - ShellHookProcedure.h

#pragma once
#include <Windows.h>

__declspec(dllexport) LRESULT CALLBACK ShellHookDll_ShellHookProcedure(int code, WPARAM wParam, LPARAM lParam);

ShellHookDll - ShellHookProcedure.cpp

#include "ShellHookProcedure.h"

LRESULT CALLBACK ShellHookDll_ShellHookProcedure(int code, WPARAM wParam, LPARAM lParam) {
    if(code == HSHELL_WINDOWCREATED)
        MessageBoxA(nullptr, "Window Created!\n", "Window Created!\n", MB_OK);

    return CallNextHookEx(0, code, wParam, lParam);
}

BOOL APIENTRY DllMain(HMODULE hModule, DWORD ul_reason_for_call, LPVOID lpReserved) {
    return TRUE;
}

WindowsWatcher.cpp

#include <Windows.h>
#include <iostream>
#include <string>
#include <ShellHookProcedure.h>

int main() {
    auto ShellHookDllModuleHandle = GetModuleHandleA("ShellHookDll");
    SetWindowsHookEx(WH_SHELL, ShellHookDll_ShellHookProcedure, ShellHookDllModuleHandle, NULL);

    std::string ShellHookProcedureAddress = std::to_string((uintptr_t)(void**)ShellHookDll_ShellHookProcedure);
    std::cout << "Address of ShellHookDll_ShellHookProcedure: " << ShellHookProcedureAddress;

    while(true)
        Sleep(1000);

    std::cout << "Main function finished!";
}

问题原因与修正方案 #

1. WH_SHELL全局钩子的核心要求 #

WH_SHELL钩子要实现全局监控，必须满足：

• 钩子过程必须放在独立DLL中（二次尝试已满足，但存在其他错误）。
• SetWindowsHookEx的dwThreadId参数必须传0（表示全局钩子）——你传的NULL虽然等价于0，但其他错误导致失效。

2. 二次尝试中的关键错误 #

• DLL加载方式错误：GetModuleHandleA("ShellHookDll")仅在DLL已加载时有效，主程序需先用LoadLibraryA显式加载DLL。
• 函数地址获取错误：直接引用ShellHookDll_ShellHookProcedure依赖静态导入，动态加载时必须用GetProcAddress获取导出函数地址。
• 缺失消息循环：全局钩子的宿主进程必须有消息循环，否则钩子的通知消息无法被处理——你的主程序只有Sleep循环，无法传递事件。

修正后的主程序代码 #

#include <Windows.h>
#include <iostream>
#include <string>

// 定义钩子函数类型
typedef LRESULT(CALLBACK* SHELLHOOKPROC)(int code, WPARAM wParam, LPARAM lParam);

int main() {
    // 1. 显式加载DLL
    HMODULE hDll = LoadLibraryA("ShellHookDll.dll");
    if (!hDll) {
        std::cout << "加载DLL失败，错误码: " << GetLastError() << std::endl;
        return 1;
    }

    // 2. 获取导出的钩子函数地址
    SHELLHOOKPROC pShellHookProc = (SHELLHOOKPROC)GetProcAddress(hDll, "ShellHookDll_ShellHookProcedure");
    if (!pShellHookProc) {
        std::cout << "获取钩子函数地址失败，错误码: " << GetLastError() << std::endl;
        FreeLibrary(hDll);
        return 1;
    }

    // 3. 设置全局WH_SHELL钩子
    HHOOK hHook = SetWindowsHookEx(WH_SHELL, pShellHookProc, hDll, 0);
    if (!hHook) {
        std::cout << "设置钩子失败，错误码: " << GetLastError() << std::endl;
        FreeLibrary(hDll);
        return 1;
    }

    std::cout << "钩子设置成功，等待窗口事件..." << std::endl;

    // 4. 启动消息循环，处理钩子消息
    MSG msg;
    while (GetMessage(&msg, nullptr, 0, 0)) {
        TranslateMessage(&msg);
        DispatchMessage(&msg);
    }

    // 5. 清理资源
    UnhookWindowsHookEx(hHook);
    FreeLibrary(hDll);
    return 0;
}

额外注意事项 #

• 确保DLL与主程序的位数一致（32位/64位），否则跨位数进程无法加载DLL。
• 钩子过程中避免执行耗时操作（如弹出MessageBox），会阻塞目标进程消息循环，建议通过IPC（如SendMessage）通知主进程处理UI。
• WH_SHELL钩子的HSHELL_WINDOWCREATED并非覆盖所有窗口，若需更全面监控，可考虑SetWinEventHook监听EVENT_OBJECT_CREATE事件，或使用ETW追踪。

内容的提问来源于stack exchange，提问作者KulaGGin