关于C标准库函数fma()的特性及结果差异等技术问询

一、fma与普通乘加表达式结果不同的场景 #

fma(a, b, c) 对应数学上的 a*b + c，但和手动写的 a*b + c 结果会在以下场景出现差异：

• 极端数值的溢出/下溢：
  当 a*b 的结果超出当前浮点数类型的范围时，普通乘加会先触发溢出（变成inf）或下溢（变成0），再和c运算，结果完全偏离真实值。而fma会先计算精确的a*b + c数学值，再舍入到可表示的浮点数。比如：

  // double类型最大值约为1.79769e308
  double a = 1e308, b = 1e308, c = -1e616;
  // 普通乘加：a*b溢出为inf，inf + (-1e616)仍为inf
  double normal = a*b + c;
  // fma：精确计算1e616 -1e616 = 0，舍入后结果为0.0
  double fma_result = fma(a, b, c);
  

  下溢场景类似：当a*b下溢为0，但a*b + c的真实值是一个可表示的极小浮点数时，fma能保留这个值，而普通乘加得到的是0。

• 精度敏感的计算场景：
  当a*b的结果无法被浮点数精确表示时，普通乘加会先对乘积舍入，再和c相加并再次舍入，两次舍入的误差会累积。而fma只做一次舍入，误差更小，结果更接近真实值。比如：

  double a = 0.1, b = 0.2, c = -0.02;
  // 0.1和0.2是二进制无限循环小数，a*b的存储值是0.020000000000000004
  // 普通乘加：0.020000000000000004 + (-0.02) = 4.440892098500626e-18
  double normal = a*b + c;
  // fma：计算精确的0.1*0.2 -0.02 = 0，舍入后结果为0.0
  double fma_result = fma(a, b, c);
  

  这种差异在数值积分、迭代优化、线性代数运算等需要高精度的场景中会被放大，直接影响计算结果的正确性。

二、fma仅执行一次舍入的原理 #

普通的a*b + c表达式会经历两次舍入：

1. 先计算a和b的乘积，由于浮点数位数有限，这个乘积几乎不可能完全精确，会被舍入到当前类型最接近的可表示值（第一次舍入）；
2. 再将舍入后的乘积与c相加，结果再次被舍入到可表示值（第二次舍入）。

而fma的核心设计是跳过中间乘积的舍入步骤：

• 从数学逻辑上，它直接计算a*b + c的精确数学值，然后仅对这个最终的总和执行一次舍入，映射到当前浮点数类型能表示的最接近值；
• 从硬件实现上，现代CPU（如x86的AVX系列、ARM的NEON）都提供了专门的FMA指令，这些指令在硬件层面直接完成乘加操作，中间不存储舍入后的乘积，只在最后对总和进行舍入，既保证了精度，也实现了性能优化（单指令完成乘加，比分开执行乘和加更快）。

内容的提问来源于stack exchange，提问作者Isma Jr