Linux与Windows环境下如何强制卸载SO/DLL并彻底释放进程内存

问题根因 #

你遇到的残留问题本质是动态库的系统引用计数未归零：DLL/SO启动的后台线程未退出、静态全局对象未析构、部分编译器生成的GNU Unique符号持有隐藏引用，都会导致dlclose/FreeLibrary仅减少公开引用计数，不会触发真正的卸载逻辑。

Windows平台落地步骤 #

• 第一步：枚举进程内所有线程，调用GetThreadStartAddress获取线程入口地址，比对目标DLL的内存地址范围（可通过GetModuleInformation获取DLL基址和占用内存大小），所有入口地址落在DLL地址区间内的线程，先调用SuspendThread挂起，再调用TerminateThread强制终止。
• 第二步：调用UnmapViewOfFile传入DLL基址，直接解除内存映射，此时DLL文件的占用锁会自动释放，可正常删除文件。
• 第三步：二次加载前调用FlushInstructionCache清空当前进程的指令缓存，避免系统复用旧的内存映射，保证加载的是新版本DLL。

Linux平台落地步骤 #

• 第一步：遍历/proc/[当前进程ID]/task目录下的所有线程ID，读取每个线程的/proc/[pid]/task/[tid]/maps，筛选出执行地址或栈地址落在目标SO映射区间的线程，调用tgkill发送SIGKILL信号强制终止线程。
• 第二步：通过dlsym获取glibc内部函数_dl_close的地址，传入SO的句柄强制清除加载器内部的所有引用计数，再遍历/proc/self/maps中所有属于目标SO的内存段，逐个调用munmap解除映射。
• 第三步：二次加载时可给新版本SO重命名为不同文件名，绕开系统的动态库缓存逻辑，确保加载的是最新版本。

以上操作均不需要修改第三方库的编译逻辑，你明确不需要关注动态库内部状态一致性的前提下，测试可稳定实现卸载后删除文件、二次加载新版本的需求。如果动态库存在系统API Hook的情况，需要先恢复被Hook的API地址再执行卸载操作，避免触发野指针崩溃。

内容的提问来源于stack exchange，提问作者user2148758