SetWindowsHookEx回调函数在SYSTEM权限下失效问题求助

Hey，我来帮你搞定这个SYSTEM权限下键盘钩子失效的问题！先拆解下核心原因，再给你调整后的代码和解决方案：

你用的WH_KEYBOARD_LL是全局低级别钩子，但它的工作逻辑依赖调用线程的消息循环，而SYSTEM权限下存在几个致命限制：

• SYSTEM账户的桌面和当前登录用户的桌面是完全隔离的，钩子的消息循环跑在SYSTEM会话里，根本捕获不到用户桌面的键盘输入
• ToAsciiEx在SYSTEM权限下获取的键盘布局和当前用户的不一致，导致字符转换完全错误
• 解锁电脑的操作需要和用户的交互式会话交互，SYSTEM进程没有权限访问这个会话

先提几个代码里的细节问题：

1. SetWindowsHookEx第三个参数传NULL，在SYSTEM权限下会关联到SYSTEM进程的模块，没法正确捕获用户会话的输入
2. 用GetKeyboardLayout(0)获取的是当前线程的布局，SYSTEM线程的布局和用户的完全不匹配
3. 键盘状态数组定义成MAX_PATH是错的，键盘状态固定是256字节
4. 没有处理ToAsciiEx转换失败的情况，会导致密码输入状态混乱

1. 让程序跑在用户交互式会话里 #

必须把钩子程序切换到当前登录用户的会话中运行，步骤如下：

• 用WTSGetActiveConsoleSessionId()获取当前活跃的用户会话ID
• 用CreateProcessAsUser()在目标会话里启动你的钩子程序，确保它运行在用户桌面环境下

2. 修正钩子安装逻辑 #

调整SetWindowsHookEx的参数，关联到当前程序的模块句柄：

HMODULE hMod = GetModuleHandle(NULL);
HHOOK hook_install = SetWindowsHookEx(WH_KEYBOARD_LL, LowLevelKeyboardProc, hMod, 0);

3. 正确获取用户的键盘布局 #

要获取当前前台窗口所属线程的键盘布局，而不是当前线程的：

HWND foregroundWnd = GetForegroundWindow();
DWORD foregroundThreadId = GetWindowThreadProcessId(foregroundWnd, NULL);
HKL hkl = GetKeyboardLayout(foregroundThreadId);

4. 合法实现解锁功能 #

用系统提供的桌面切换API来解锁，不要用自定义的UnLockPC：

void UnLockPC() {
    HDESK hInputDesk = OpenInputDesktop(0, FALSE, DESKTOP_SWITCHDESKTOP);
    if (hInputDesk != NULL) {
        SwitchDesktop(hInputDesk);
        CloseHandle(hInputDesk);
    }
}

#define LOCK_ENABLE 0 
#define LOCK_DISABLE 1 

DWORD g_locker = LOCK_DISABLE;
DWORD g_selwrd = -2;
CHAR* g_szpaswd = "heaven";

LRESULT CALLBACK LowLevelKeyboardProc(int nCode, WPARAM wParam, LPARAM lParam);
void LockerPraq();
void UnLockPC();

LRESULT CALLBACK LowLevelKeyboardProc(int nCode, WPARAM wParam, LPARAM lParam) {
    PKBDLLHOOKSTRUCT p = (PKBDLLHOOKSTRUCT) lParam;
    if(HC_ACTION == nCode) {
        switch (wParam) {
            case WM_KEYDOWN:
            case WM_SYSKEYDOWN:
                switch (p->vkCode) {
                    case VK_HOME:
                        g_locker = LOCK_ENABLE;
                        g_selwrd = -1;
                        break;
                    case VK_END:
                        g_locker = LOCK_DISABLE;
                        g_selwrd = 0;
                        break;
                }
                if (LOCK_ENABLE == g_locker) {
                    if (-1 == g_selwrd) {
                        g_selwrd = 0;
                    } else {
                        CHAR szKbdstate[256] = {0};
                        GetKeyboardState(szKbdstate);
                        WORD theChar = 0x0000;
                        
                        // 获取当前用户正在使用的键盘布局
                        HWND foregroundWnd = GetForegroundWindow();
                        DWORD foregroundThreadId = GetWindowThreadProcessId(foregroundWnd, NULL);
                        HKL hkl = GetKeyboardLayout(foregroundThreadId);
                        
                        // 只处理转换成功的情况
                        if (ToAsciiEx(p->vkCode, p->scanCode, (BYTE*)szKbdstate, &theChar, 0, hkl) == 1) {
                            if ((CHAR)theChar != g_szpaswd[g_selwrd]) {
                                g_selwrd = 0;
                            } else {
                                g_selwrd++;
                                if (g_selwrd >= strlen(g_szpaswd)) {
                                    UnLockPC();
                                    // 解锁后重置状态
                                    g_locker = LOCK_DISABLE;
                                    g_selwrd = -2;
                                }
                            }
                        } else {
                            // 转换失败，重置密码输入进度
                            g_selwrd = 0;
                        }
                    }
                }
                break;
        }
    }
    return CallNextHookEx(NULL, nCode, wParam, lParam);
}

void UnLockPC() {
    // 切换到用户的交互式桌面实现解锁
    HDESK hInputDesk = OpenInputDesktop(0, FALSE, DESKTOP_SWITCHDESKTOP);
    if (hInputDesk != NULL) {
        SwitchDesktop(hInputDesk);
        CloseHandle(hInputDesk);
    }
}

void LockerPraq() {
    HMODULE hMod = GetModuleHandle(NULL);
    HHOOK hook_install = SetWindowsHookEx(WH_KEYBOARD_LL, LowLevelKeyboardProc, hMod, 0);
    if (NULL == hook_install) {
        printf("Hook failed, error: %d\n", GetLastError());
        return;
    }
    MSG msg;
    while (GetMessage(&msg, NULL, 0, 0)) {
        TranslateMessage(&msg);
        DispatchMessage(&msg);
    }
    UnhookWindowsHookEx(hook_install);
}

// 主函数示例：如果从SYSTEM启动，需要先切换到用户会话
int main() {
    LockerPraq();
    return 0;
}

• Win10的会话隔离机制非常严格，绝对不要在SYSTEM权限下运行这类需要和用户交互的程序
• 调试时一定要用当前用户权限启动调试器，否则会重现你遇到的问题
• 键盘钩子的消息循环必须持续运行，一旦退出，钩子就会失效

内容的提问来源于stack exchange，提问作者AleXelton