Rundll32调用自定义DLL函数失效，求代码修改方案

我正在学习C++以深入理解DLL的工作原理及DLL内函数的调用方式，尝试通过rundll32.exe从自定义DLL中启动calc.exe。在以下代码中，我期望执行rundll32.exe并传入编译后的DLL作为参数时，无论指定哪个导出函数/序号，DLLMain()中的DLL_PROCESS_ATTACH分支都会调用spwncalc()以启动calc.exe；同时我也尝试直接通过rundll32.exe调用spwncalc()函数，但均无法成功启动calc.exe。

#include <windows.h>

void spwncalc()
{
        WinExec("C:\\Windows\\System32\\calc.exe", 1);
}
BOOL WINAPI DllMain (HANDLE hDll, DWORD dwReason, LPVOID lpReserved){
        switch(dwReason){
                case DLL_PROCESS_ATTACH:
                        spwncalc();
                        break;
                case DLL_PROCESS_DETACH:
                        break;
                case DLL_THREAD_ATTACH:
                        break;
                case DLL_THREAD_DETACH:
                        break;
        }
        return TRUE;
}

请问我该如何修改代码，使得执行rundll32.exe calc_spwn.dll,spwncalc时能执行spwncalc()函数？另外，有没有办法让该函数在DLL被rundll32.exe加载时就运行？

1. 让rundll32.exe正确调用spwncalc() #

Rundll32对目标导出函数有严格的签名要求，你的函数不符合规范，导致无法被正确调用。必须将spwncalc()修改为以下标准签名：

void CALLBACK spwncalc(HWND hwnd, HINSTANCE hinst, LPSTR lpszCmdLine, int nCmdShow)
{
    WinExec("C:\\Windows\\System32\\calc.exe", nCmdShow);
}

同时必须确保函数被导出，有两种实现方式：

• 在函数声明前添加导出标记：

  __declspec(dllexport) void CALLBACK spwncalc(HWND hwnd, HINSTANCE hinst, LPSTR lpszCmdLine, int nCmdShow)
  

• 或者编写.def文件（命名为calc_spwn.def），编译时链接该文件：

  LIBRARY calc_spwn
  EXPORTS
      spwncalc @1
  

重新编译DLL后，执行rundll32.exe calc_spwn.dll,spwncalc即可触发函数执行。

2. 让函数在DLL加载时自动运行 #

你原本在DLL_PROCESS_ATTACH分支调用spwncalc()的逻辑是正确的，没生效大概率是以下原因：

• 位数不匹配：如果编译的是32位DLL，64位系统下默认的rundll32.exe是64位，无法加载32位DLL，需改用C:\Windows\SysWOW64\rundll32.exe调用；反之64位DLL要对应系统默认的rundll32。
• 路径兼容性：WinExec属于较旧的API，部分环境下路径解析可能出问题，建议替换为兼容性更好的ShellExecute：

  void spwncalc()
  {
      ShellExecute(NULL, "open", "calc.exe", NULL, NULL, SW_SHOWNORMAL);
  }
  

注意：微软官方不建议在DLLMain中执行复杂操作，但启动计算器这类简单操作可以正常工作。只要DLL编译正确、位数匹配，直接运行rundll32.exe calc_spwn.dll（无需指定函数名），DLL_PROCESS_ATTACH分支的代码就会在加载时自动执行，启动计算器。

内容的提问来源于stack exchange，提问作者Lexicon