能否为非托管C DLL配置内存转储？异常捕获失败排查

一、你的C代码存在的问题 #

1. 路径与文件创建缺陷
   • 根目录路径\\MemoryDumpFiles需要管理员权限才能创建，普通用户环境下会失败，应该改为基于当前进程目录的相对路径，比如先通过GetModuleFileName获取DLL所在目录，再拼接子文件夹路径，并提前调用CreateDirectory确保目录存在。
   • DumpFileXXXXXX的写法无法生成唯一文件名，CreateFile不会自动替换占位符，建议用时间戳生成唯一文件名，或者调用GetTempFileName。
   • wprintf的格式化字符串错误，[%]应改为[%s]，否则会导致输出失败。
2. 异常过滤器的优先级问题
   • SetUnhandledExceptionFilter设置的过滤器优先级低于CLR的异常处理机制。当C#程序运行在CLR环境中，非托管异常会先被CLR捕获包装，你的DLL过滤器可能根本得不到执行机会。
   • 另外，如果进程中已有其他组件（比如第三方库）设置过全局异常过滤器，你的设置会被直接覆盖。

二、C#端的必要配置 #

CLR默认会将非托管的Access Violation包装为AccessViolationException抛出，而非直接触发进程崩溃，这会导致DLL中的异常过滤器无法生效。你需要通过以下两种方式处理：

方案1：让非托管异常直接触发进程崩溃 #

在C#入口处添加代码，禁用CLR对非托管异常的拦截，让系统级过滤器生效：

using System.Runtime.InteropServices;

class Program
{
    [DllImport("kernel32.dll")]
    private static extern int SetErrorMode(int mode);

    const int SEM_NOGPFAULTERRORBOX = 0x0002;
    const int SEM_FAILCRITICALERRORS = 0x0001;

    static void Main(string[] args)
    {
        // 配置错误模式，让Access Violation直接触发进程崩溃
        SetErrorMode(SEM_NOGPFAULTERRORBOX | SEM_FAILCRITICALERRORS);

        // 调用你的非托管DLL逻辑
        // ...
    }
}

方案2：在C#端直接生成内存转储 #

不需要依赖DLL的过滤器，直接在C#中处理未处理异常并生成转储：

1. 定义P/Invoke调用MiniDump接口：

using System;
using System.IO;
using System.Runtime.InteropServices;

public static class MiniDumpHelper
{
    [DllImport("dbghelp.dll", SetLastError = true)]
    private static extern bool MiniDumpWriteDump(
        IntPtr hProcess,
        uint processId,
        IntPtr hFile,
        uint dumpType,
        IntPtr exceptionParam,
        IntPtr userStreamParam,
        IntPtr callbackParam);

    [DllImport("kernel32.dll")]
    private static extern IntPtr GetCurrentProcess();

    [DllImport("kernel32.dll")]
    private static extern uint GetCurrentProcessId();

    private const uint MiniDumpNormal = 0x00000000;

    public static void WriteMiniDump(string dumpPath)
    {
        using (var fs = new FileStream(dumpPath, FileMode.Create))
        {
            MiniDumpWriteDump(
                GetCurrentProcess(),
                GetCurrentProcessId(),
                fs.SafeFileHandle.DangerousGetHandle(),
                MiniDumpNormal,
                IntPtr.Zero,
                IntPtr.Zero,
                IntPtr.Zero);
        }
    }
}

2. 注册全局未处理异常事件：

static void Main(string[] args)
{
    AppDomain.CurrentDomain.UnhandledException += (sender, e) =>
    {
        var dumpFileName = Path.Combine(AppDomain.CurrentDomain.BaseDirectory, $"CrashDump_{DateTime.Now:yyyyMMdd_HHmmss}.dmp");
        MiniDumpHelper.WriteMiniDump(dumpFileName);
        Environment.Exit(1);
    };

    // 调用非托管DLL逻辑
    // ...
}

三、C代码的修复建议（若坚持在DLL中处理） #

1. 修正路径与文件名生成逻辑：

// 获取DLL所在目录
WCHAR dllPath[MAX_PATH];
GetModuleFileNameW(NULL, dllPath, MAX_PATH);
PathRemoveFileSpecW(dllPath);
wcscat_s(dllPath, MAX_PATH, L"\\MemoryDumpFiles");
CreateDirectoryW(dllPath, NULL); // 确保目录存在

// 生成带时间戳的唯一文件名
WCHAR dumpFileName[MAX_PATH];
SYSTEMTIME st;
GetLocalTime(&st);
swprintf_s(dumpFileName, MAX_PATH, L"%s\\DumpFile_%04d%02d%02d_%02d%02d%02d.dmp", dllPath, st.wYear, st.wMonth, st.wDay, st.wHour, st.wMinute, st.wSecond);

2. 替换SetUnhandledExceptionFilter为优先级更高的AddVectoredExceptionHandler：

// 在DLL_PROCESS_ATTACH中替换原SetUnhandledExceptionFilter调用
AddVectoredExceptionHandler(1, SolverExceptionHandler);

// 调整回调函数签名
LONG WINAPI SolverExceptionHandler(PEXCEPTION_POINTERS ExceptionInfo)
{
    // 你的转储生成逻辑...
    wprintf(L"SolverExceptionHandler saved Memory Dump into the [%s] file. Success: %s", dumpFileName, success ? L"True" : L"False");
    return EXCEPTION_EXECUTE_HANDLER;
}

内容的提问来源于stack exchange，提问作者eugen_nw