MSVC开启/arch:AVX2与/fp:fast参数时C++矩阵求逆算法异常问题

这是Visual Studio 2019 v142版本MSVC编译器的AVX2架构下激进浮点优化的已知bug，并非代码逻辑问题：

• /fp:fast 参数允许编译器忽略IEEE 754浮点标准的严格约束，通过运算重排、近似指令替换、自动向量化等激进优化提升浮点性能
• 当搭配 /arch:AVX2 时，编译器对高斯消元的内层循环自动生成AVX2向量化代码时出现逻辑错误，导致中间变量计算完全失真，后续的行列式判断被误判为0，直接返回全零矩阵；Debug模式下优化等级低，未触发提前返回但中间值已经溢出，因此得到超大异常值
• SSE/SSE2/AVX架构下的向量化逻辑没有这个缺陷，因此搭配/fp:fast也能正常运行

任选以下一种方案即可解决问题，无需修改核心算法逻辑：

1. 更换浮点编译模式：将/fp:fast替换为MSVC默认的/fp:precise，该模式严格遵循IEEE浮点标准，仅损失极少浮点性能即可保证计算正确性，对于19x19矩阵求逆的场景完全没有性能感知
2. 禁用出错位置的自动向量化：在invert方法中高斯消元的循环前添加#pragma loop(no_vector)，强制编译器不生成该循环的AVX2向量化代码，保留其余优化参数不变
3. 临时关闭指定函数的优化：给invert方法添加#pragma optimize("", off)前缀，函数末尾添加#pragma optimize("", on)恢复全局优化，完全规避编译器优化带来的问题
4. 降低架构指令集等级：保留/fp:fast的前提下，将/arch:AVX2替换为/arch:AVX，该配置下结果已经验证为正确，仅损失极少量AVX2专属指令带来的性能提升

即使修复了编译器问题，也建议对浮点判断逻辑做加固：

• 所有==0.0/!=0.0的判断统一替换为容差判断，例如if(fabs(A[2*N*k+k]) < 1e-12)，容差阈值可根据精度要求调整
• 行列式的0值判断也替换为容差判断，避免浮点累积误差导致满秩矩阵被误判为奇异矩阵

内容的提问来源于stack exchange，提问作者ProjectPhysX