.NET 7 NativeAOT编译DLL无法卸载的问题求助

问题背景 #

用.NET 7 NativeAOT编译C# DLL后，通过Win32 API加载并调用导出函数是正常的：

HMODULE module = LoadLibraryW("AOT.dll");
auto hello = GetProcAddress(module, "Hello");
hello();

但卸载时遇到问题：无论调用多少次FreeLibrary("AOT.dll")，GetModuleHandle("AOT.dll")始终返回模块句柄，说明DLL没有被成功卸载。

排查过程 #

1. 推测是运行时后台线程（比如GC线程）未退出导致卸载失败，枚举线程后发现加载DLL后新增两个线程：
   • 一个归属ntdll.dll（线程ID 5944）
   • 一个归属AOT.dll（线程ID 17444）
2. 强制终止AOT.dll的残留线程（注：此操作非常不安全，仅用于排查），但尝试操作ntdll.dll的线程时抛出异常：

An invalid thread, handle %p, is specified for this operation. Possibly, a threadpool worker thread was specified

3. 尝试Hook CreateThreadPool函数，但未捕获到运行时的调用，线程来源仍在排查中。

可行解决方案 #

1. 给DLL添加显式的运行时关闭入口 #

NativeAOT编译的DLL默认不会自动清理运行时资源，需要手动导出一个shutdown函数，在卸载前调用以触发运行时的完整清理流程：

using System.Runtime.InteropServices;
using System.Runtime.CompilerServices;
using Microsoft.DotNet.ILCompiler;

public static class NativeExports
{
    [UnmanagedCallersOnly(EntryPoint = "ShutdownAotRuntime")]
    public static void ShutdownAotRuntime()
    {
        // 触发NativeAOT运行时的关闭逻辑
        RuntimeLibrary.Shutdown();
    }
}

编译DLL后，在卸载前先调用这个导出函数：

auto shutdown = GetProcAddress(module, "ShutdownAotRuntime");
if (shutdown != nullptr)
{
    shutdown();
}
FreeLibrary(module);

注意：需要引用Microsoft.DotNet.ILCompiler NuGet包，且确保所有托管资源已提前释放，否则仍可能有残留。

2. 编译时禁用不必要的后台特性 #

通过rd.xml配置文件禁用后台GC等可能产生后台线程的特性，减少运行时启动的线程数量：

<Directives>
  <Application>
    <!-- 禁用后台GC -->
    <RuntimeHostConfigurationOption Name="System.GC.Background" Value="false" />
    <!-- 限制线程池初始线程数 -->
    <RuntimeHostConfigurationOption Name="System.Threading.ThreadPool.MinThreads" Value="0" />
  </Application>
</Directives>

编译时在项目文件中添加<RdXmlFile>rd.xml</RdXmlFile>指定该配置文件。

3. 等待线程池任务完成后再关闭 #

NativeAOT的线程池基于系统默认Win32线程池实现，并非通过CreateThreadPool创建。可以在shutdown函数中尝试排空线程池：

[UnmanagedCallersOnly(EntryPoint = "ShutdownAotRuntime")]
public static void ShutdownAotRuntime()
{
    // 降低线程池线程数并等待任务完成
    ThreadPool.SetMinThreads(0, 0);
    ThreadPool.SetMaxThreads(0, 0);
    // 给线程池留出退出时间
    System.Threading.Thread.Sleep(100);
    
    RuntimeLibrary.Shutdown();
}

这种方式能降低线程残留概率，但无法保证100%清理。

4. 替代方案：使用隔离加载方式 #

如果无法彻底解决卸载问题，可以用LoadLibraryEx的特殊标记加载DLL，限制其运行上下文：

// 以数据文件方式加载，仅能调用导出函数，无法加载托管类型
HMODULE module = LoadLibraryExW("AOT.dll", nullptr, LOAD_LIBRARY_AS_DATAFILE);

适合仅需调用简单导出函数的场景。

重要注意事项 #

• 绝对不要在生产环境中强制终止线程，这会导致进程崩溃、资源泄漏等不可控问题。
• 目前NativeAOT对DLL卸载的支持仍有局限性，若频繁加载卸载是核心需求，优先考虑用进程隔离（比如独立子进程）替代DLL加载。

内容的提问来源于stack exchange，提问作者Sardelka