为何通过RunDll32运行的DLL中调用ShellExecute会挂起？

1. 修复路径字符串转义错误 #

你的代码中路径使用了单个反斜杠\，在C语言字符串中反斜杠是转义字符，必须写成\\才能正确解析为路径分隔符。未转义的路径会导致ShellExecute无法找到目标程序，进而引发挂起。修正后的代码如下：

HINSTANCE result = ShellExecute(NULL, _T("runas"), _T("C:\\Windows\\SysWOW64\\rundll32.exe"), _T("shell32.dll,Control_RunDLL C:\\...\\applet.CPL"), NULL, SW_SHOW);

2. 避免在CPL主线程中直接调用ShellExecute #

Control Panel小程序（CPL）运行在rundll32.exe的主线程中，该线程依赖消息循环处理UI事件。直接在CPL的回调函数（如CPlApplet）中调用ShellExecute会阻塞消息循环，导致程序挂起。解决办法是将ShellExecute的调用放到独立线程中执行：

DWORD WINAPI ElevateCPLThread(LPVOID lpParam) {
    ShellExecute(NULL, _T("runas"), _T("C:\\Windows\\SysWOW64\\rundll32.exe"), _T("shell32.dll,Control_RunDLL C:\\...\\applet.CPL"), NULL, SW_SHOW);
    return 0;
}

// 在CPL需要提权的逻辑位置调用
CreateThread(NULL, 0, ElevateCPLThread, NULL, 0, NULL);

3. 排查错误返回值 #

调用ShellExecute后，检查返回值是否小于32（表示执行失败），同时调用GetLastError()获取具体错误码，比如ERROR_FILE_NOT_FOUND（文件未找到）、ERROR_ACCESS_DENIED（权限不足）等，帮助定位问题：

HINSTANCE result = ShellExecute(...);
if ((int)result <= 32) {
    DWORD err = GetLastError();
    // 根据err值排查具体问题
}

4. 备选方案：使用ShellExecuteEx #

如果ShellExecute仍然出现问题，可以尝试使用ShellExecuteEx，它提供更灵活的控制选项：

SHELLEXECUTEINFO sei = {0};
sei.cbSize = sizeof(SHELLEXECUTEINFO);
sei.fMask = SEE_MASK_NOCLOSEPROCESS;
sei.lpVerb = _T("runas");
sei.lpFile = _T("C:\\Windows\\SysWOW64\\rundll32.exe");
sei.lpParameters = _T("shell32.dll,Control_RunDLL C:\\...\\applet.CPL");
sei.nShow = SW_SHOW;

if (!ShellExecuteEx(&sei)) {
    DWORD err = GetLastError();
    // 处理错误
}

内容的提问来源于stack exchange，提问作者Dave