Windows C中SetThreadDesktop()高权限状态调用异常问题

我一直在排查为何SetThreadDesktop()仅能在非高权限状态下正常工作，未找到相关资料。以普通用户身份运行下方程序完全正常，但以管理员身份运行时，SetThreadDesktop()会返回错误：

Error: The requested resource is in use.

难道管理员身份无法调用该函数？我完全无从下手。

编辑补充：后续发现从高权限命令提示符执行程序时不会报错，但从文件管理器右键选择「以管理员身份运行」则会触发该错误。

代码示例：

#include <Windows.h>

#pragma comment(lib, "user32.lib")

int main(int argc, char *argv[]) {
    HDESK hDesk = CreateDesktop(TEXT("test"), NULL, NULL, 0, GENERIC_ALL, NULL);
    printf("Desktop handle: %p\n", hDesk);
    
    if (SetThreadDesktop(hDesk) == 0) {
        DWORD error = GetLastError();
        if (error != 0) {
            LPSTR messageBuffer = NULL;
            size_t size = FormatMessageA(FORMAT_MESSAGE_ALLOCATE_BUFFER | FORMAT_MESSAGE_FROM_SYSTEM | FORMAT_MESSAGE_IGNORE_INSERTS, NULL, error, MAKELANGID(LANG_NEUTRAL, SUBLANG_DEFAULT), (LPSTR)&messageBuffer, 0, NULL);
            printf("Error: %s\n", messageBuffer);
            LocalFree(messageBuffer);
            while (1) {Sleep(10000);}
        }
    }
    while (1) Sleep(100000);
}           

问题原因 #

这是Windows UAC（用户账户控制）的隔离机制导致的差异：

• 当从文件管理器右键「以管理员身份运行」时，Windows会为高权限进程创建一个独立的隔离窗口站（Window Station）和桌面，程序的主线程会自动附加到这个新桌面。此时线程已经与该默认高权限桌面绑定，且控制台程序的标准输入输出窗口也关联在这个桌面上，调用SetThreadDesktop切换到自定义桌面时，因原桌面资源被占用而返回ERROR_RESOURCE_IN_USE。
• 当从高权限命令提示符启动程序时，程序会继承CMD的窗口站和桌面上下文，线程并未被强制绑定到固定桌面，且控制台窗口属于CMD的桌面环境，切换自定义桌面时不会触发资源占用冲突。

解决方案 #

要解决这个问题，需要在切换桌面之前，解除线程与原桌面的资源关联。对于控制台程序来说，最直接的方式是先脱离控制台窗口：

#include <Windows.h>

#pragma comment(lib, "user32.lib")

int main(int argc, char *argv[]) {
    // 先脱离控制台，解除与原桌面的资源绑定
    FreeConsole();

    HDESK hDesk = CreateDesktop(TEXT("test"), NULL, NULL, 0, GENERIC_ALL, NULL);
    // 脱离控制台后printf无法输出，改用调试输出查看信息
    char debugMsg[64];
    sprintf(debugMsg, "Desktop handle: %p\n", hDesk);
    OutputDebugStringA(debugMsg);
    
    if (SetThreadDesktop(hDesk) == 0) {
        DWORD error = GetLastError();
        if (error != 0) {
            LPSTR messageBuffer = NULL;
            size_t size = FormatMessageA(FORMAT_MESSAGE_ALLOCATE_BUFFER | FORMAT_MESSAGE_FROM_SYSTEM | FORMAT_MESSAGE_IGNORE_INSERTS, NULL, error, MAKELANGID(LANG_NEUTRAL, SUBLANG_DEFAULT), (LPSTR)&messageBuffer, 0, NULL);
            OutputDebugStringA(messageBuffer);
            LocalFree(messageBuffer);
            while (1) {Sleep(10000);}
        }
    }
    while (1) Sleep(100000);
}           

另外也可以先检查当前线程关联的桌面，避免无效切换：

1. 调用GetThreadDesktop(GetCurrentThreadId())获取当前线程的桌面句柄
2. 如果该句柄与你创建的桌面句柄不同，再尝试切换；若相同则无需操作

注意：如果程序需要保留控制台输出，可考虑创建新的控制台窗口并关联到新桌面，或者改用GUI程序避免控制台资源的绑定问题。

内容的提问来源于stack exchange，提问作者user16865540