AVX512-FP16内联函数Release模式失效，Debug模式正常问题求助

问题描述 #

拥有支持FP16的CPU，在VS2022中编写AVX512的FP16简单FIR滤波循环：

• Debug编译时结果正常，与FP32版本仅存在量化误差；
• Release开启优化编译后，所有样本输出均为Inf；
• 在FIR循环内添加打印操作（抑制优化）后，输出恢复正确，逻辑上打印不影响计算。

FIR核心循环代码 #

__m256h x1_accumh = _mm256_setzero_ph();

for (int t = 0; t < taps_samp[ii] + 1; t++)
{
    if (!usefp16)
    {
        // 正常工作的FP32代码（已省略）
    }
    else // FP16代码路径
    {
        // 加载系数并广播
        __m128i b1 = _mm_loadu_si16((barrayh + count++));
        __m256h bh = _mm256_broadcastw_epi16(b1);

        // 加载16通道int16样本并转FP16
        __m256i x1 = _mm256_lddqu_si256(((__m256i*)startPtr) + t);
        __m256h x1hp = _mm256_cvtepi16_ph(x1);

        // FMA乘加：样本×系数 + 累加器
        x1_accumh = _mm256_fmadd_ph(x1hp, bh, x1_accumh);

        /* 取消注释以下代码后输出恢复正常
        if (ii == 0 && i == 0 && t == 0)
        {
            print256_f16(x1_accumh);
        }
        */
    }
}

汇编对比分析 #

带打印的正常汇编（关键FMA指令） #

// x1_accumh = _mm256_fmadd_ph(x1hp, bh, x1_accumh);
00007FF6AA2E1B74  vfmadd213ph ymm1,ymm2,ymm3    // 正确逻辑：ymm1(样本) × ymm2(系数) + ymm3(累加器)
00007FF6AA2E1B7A  vmovdqu     ymm3,ymm1  
00007FF6AA2E1B7E  vmovdqu     ymmword ptr [x1_accumh],ymm1  

无打印的失效汇编（关键FMA指令） #

// x1_accumh = _mm256_fmadd_ph(x1hp, bh, x1_accumh);
00007FF64FE11B50  vfmadd132ph ymm3,ymm2,ymm0  // 错误逻辑：ymm3(累加器) × ymm0(样本) + ymm2(系数)

问题根源 #

这不是你的代码错误，是VS2022编译器在优化FP16 FMA指令时的bug：

• 带打印时，编译器优化被抑制，生成了符合逻辑的vfmadd213ph指令（操作数顺序：样本×系数+累加器）；
• 全优化时，编译器错误选择了vfmadd132ph指令，且未正确映射操作数，导致计算逻辑变成累加器×样本+系数，数值迅速溢出成Inf。

修复方法 #

• 替代FMA指令：用显式乘法加加法替代_mm256_fmadd_ph，绕过编译器的FMA指令生成bug：

  __m256h product = _mm256_mul_ph(x1hp, bh);
  x1_accumh = _mm256_add_ph(product, x1_accumh);
  

• 阻止过度优化：给累加器变量添加volatile修饰，强制编译器保留变量的内存读写，避免错误优化：

  volatile __m256h x1_accumh = _mm256_setzero_ph();
  

• 更新编译器：将VS2022升级到最新版本，微软可能已修复该FP16优化bug；
• 调整编译选项：临时降低优化等级（如/O2改/O1）或关闭FMA相关优化（通过VS编译选项中的高级优化设置），但会影响整体性能。

内容的提问来源于stack exchange，提问作者user1850479