动态链接带/FIXED选项第三方DLL的程序A.exe：Explorer启动正常但通过CreateProcess/ShellExecute启动失败的原因及编程解决方案咨询

嘿，这个问题我之前碰到过类似的场景，咱们先弄明白为啥两种启动方式有差异，再给你实际可行的编程解决办法：

为什么Explorer启动正常，B.exe启动就报错？ #

核心原因在于进程错误模式的继承，这是最常见的触发因素：

• 当从Explorer启动A.exe时，Explorer用的是Windows默认的错误模式。此时系统加载器发现/FIXED标记的a.dll基址被占用时，会自动尝试重定位其他非/FIXED的模块（包括A.exe本身，如果它没设/FIXED），腾出来a.dll需要的固定基址，所以能顺利启动。
• 但如果你的B.exe（或者它依赖的某个库）设置了SEM_FAILCRITICALERRORS这类错误模式，当用CreateProcess/ShellExecute启动A.exe时，A会继承这个错误模式。在这种模式下，加载器遇到基址冲突时不会尝试重定位其他模块，直接返回487错误（ERROR_INVALID_ADDRESS），导致启动失败。

另外还有个次要可能：Explorer作为系统进程，预加载的DLL和B.exe不一样，导致A在Explorer下启动时，a.dll的固定基址没被占用；而从B.exe启动时，A的进程空间里有预加载的DLL占了这个地址，又因为错误模式限制没法重定位，就报错了。

编程解决办法 #

方法1：临时重置错误模式（最推荐，简单有效） #

在调用CreateProcess/ShellExecute启动A.exe前，临时把B.exe的错误模式改成默认值，让A继承这个正常模式，之后再恢复B原来的错误模式就行。

用CreateProcess实现的代码示例

#include <windows.h>

BOOL LaunchAExe(const wchar_t* aExePath) {
    // 先保存当前进程的错误模式，别影响B.exe的其他逻辑
    UINT oldErrorMode = SetErrorMode(SEM_FAILCRITICALERRORS);
    
    // 临时切换到默认错误模式，允许加载器处理基址冲突
    SetErrorMode(0);

    STARTUPINFO si = { 0 };
    si.cb = sizeof(STARTUPINFO);
    PROCESS_INFORMATION pi = { 0 };

    // 启动A.exe
    BOOL success = CreateProcess(
        aExePath,        // 替换成你的A.exe实际路径
        NULL,            // 如需传参数可以在这里修改
        NULL,            // 进程安全属性，默认即可
        NULL,            // 线程安全属性，默认即可
        FALSE,           // 不继承B的句柄
        0,               // 无额外创建标志
        NULL,            // 使用系统默认环境变量
        NULL,            // 使用当前工作目录
        &si,
        &pi
    );

    // 恢复B.exe原来的错误模式
    SetErrorMode(oldErrorMode);

    if (success) {
        // 关闭不需要的句柄，避免资源泄漏
        CloseHandle(pi.hThread);
        CloseHandle(pi.hProcess);
        return TRUE;
    } else {
        // 可以在这里添加错误日志或提示，比如打印GetLastError()的结果
        DWORD err = GetLastError();
        return FALSE;
    }
}

用ShellExecuteEx实现的代码示例

如果更习惯用Shell系列函数，推荐用ShellExecuteEx（比ShellExecute更可控），同样配合错误模式修改：

#include <windows.h>
#include <shellapi.h>

BOOL LaunchAExeWithShell(const wchar_t* aExePath) {
    UINT oldErrorMode = SetErrorMode(SEM_FAILCRITICALERRORS);
    SetErrorMode(0);

    SHELLEXECUTEINFO sei = { 0 };
    sei.cbSize = sizeof(SHELLEXECUTEINFO);
    sei.fMask = SEE_MASK_NOCLOSEPROCESS;  // 保留进程句柄方便后续处理
    sei.lpVerb = L"open";
    sei.lpFile = aExePath;
    sei.nShow = SW_SHOWNORMAL;

    BOOL success = ShellExecuteEx(&sei);

    SetErrorMode(oldErrorMode);

    if (success) {
        CloseHandle(sei.hProcess);
        return TRUE;
    } else {
        DWORD err = GetLastError();
        // 处理错误逻辑
        return FALSE;
    }
}

方法2：编程重定位A.exe及依赖（根源解决，复杂度较高） #

如果你想从根源上解决基址冲突，可以通过Windows的ImageHlp API修改A.exe和它的非/FIXED依赖DLL的基址，避开a.dll的固定基址。不过这个方法需要修改PE文件，还得确保A.exe和其他依赖没设/FIXED：

#include <windows.h>
#include <imagehlp.h>

#pragma comment(lib, "imagehlp.lib")

// 获取a.dll的固定基址
DWORD GetDllFixedBase(const wchar_t* dllPath) {
    HMODULE hMod = LoadLibraryEx(dllPath, NULL, LOAD_LIBRARY_AS_DATAFILE);
    if (!hMod) return 0;
    PIMAGE_NT_HEADERS ntHeaders = ImageNtHeader(hMod);
    DWORD baseAddr = ntHeaders->OptionalHeader.ImageBase;
    FreeLibrary(hMod);
    return baseAddr;
}

// 重定位指定模块到新基址
BOOL RebaseModule(const wchar_t* modulePath, DWORD newBaseAddr) {
    return ImageRebase(
        NULL,
        modulePath,
        NULL,
        newBaseAddr,
        0,
        NULL,
        NULL
    );
}

使用时，先调用GetDllFixedBase拿到a.dll的固定基址，然后给A.exe和其他依赖设置不冲突的新基址，调用RebaseModule完成修改。这个方法需要文件写入权限，适合提前预处理的场景。

备注：内容来源于stack exchange，提问作者alireza khalesi