MSYS64/MINGW64下编译gmp-6.3.0遇权限拒绝问题求助

问题背景 #

在MSYS64的MINGW64环境编译GMP-6.3.0时，运行configure命令后报错找不到可用编译器。查看config.log发现核心错误是ld.exe提示无法打开输出文件a.exe：Permission denied。进一步复现验证：

• 用-O1优化编译测试程序，连续两次都正常；
• 第二次用-O2优化编译时，触发权限拒绝错误；
• 切换到MSYS64的UCRT64环境编译，全程无此问题。

可能原因 #

1. MINGW64链接器的文件句柄泄漏
   -O2优化会触发更多链接阶段的优化操作，MINGW64使用的ld.exe（依赖旧版MSVCRT运行时）可能在这种场景下没有正确释放临时文件（a.exe）的句柄，导致第二次编译时无法覆盖仍被占用的文件。而UCRT64依赖Windows通用CRT（UCRT），文件锁和句柄管理逻辑更完善，不会出现此类问题。

2. 安全软件的误拦截
   -O2优化生成的可执行文件代码特征可能被杀毒软件/安全软件判定为可疑，第一次编译后软件锁定了a.exe，阻止后续的覆盖操作。MINGW64的编译产物因运行时库版本较旧，更容易被安全软件误判，而UCRT64的产物则避开了这个识别逻辑。

3. 文件系统语义冲突
   MINGW64环境下，POSIX文件操作语义和Windows文件系统的兼容性在快速创建/删除/覆盖文件时可能出现冲突。-O2优化下链接操作速度更快，触发了这种兼容性问题，导致系统锁定临时文件，无法进行覆盖写入。

解决思路 #

• 排除安全软件干扰
  临时关闭杀毒软件或Windows Defender实时保护，测试是否能正常编译。如果问题消失，将MINGW64的安装目录、编译工作目录以及ld.exe添加到安全软件的白名单中。

• 修改临时输出文件名
  执行configure时，通过环境变量指定不同的临时输出文件，避免重复覆盖同一个文件：

CC="gcc -o gmp_test_temp.exe" ./configure

也可以直接修改GMP源码中configure脚本里的测试编译输出文件名，替换成非a.exe的名称。

• 切换到UCRT64环境
  既然UCRT64环境无此问题，直接使用UCRT64的工具链编译：

1. 安装UCRT64编译器：pacman -S mingw-w64-ucrt-x86_64-gcc
2. 打开MSYS2的UCRT64 shell，进入GMP源码目录执行编译流程。

• 更新MINGW64环境
  执行全量更新命令，升级MINGW64的gcc、binutils等工具：

pacman -Syu

新版本的工具可能已经修复了文件句柄或权限相关的bug。

• 手动清理临时文件
  在每次编译测试前手动清理临时文件，比如在运行configure前执行：

rm -f a.exe *.o

也可以在编译脚本中加入自动清理步骤，确保临时文件不会被占用。

内容的提问来源于stack exchange，提问作者pmor