为什么gcc开启-ffast-math选项后isnan()、isinf()返回结果错误？

问题原因 #

-ffast-math 是GCC的一组浮点数优化开关的集合，它默认开启了-ffinite-math-only选项，该选项会告知编译器：假设程序运行过程中所有浮点数的输入、输出都是有限值，不会出现NaN、无穷大这类特殊浮点值。
基于这个假设，编译器在编译期会直接对isnan()、isinf()这类特殊值检查函数做常量折叠优化，将它们的返回值固定为假，对应的判断分支也会被直接剪枝，不管运行时实际的浮点值是什么，都不会触发检查成功的逻辑。
你看到printf可以正常打印出nan、inf，是因为printf的浮点数打印逻辑是运行时读取变量的二进制值做判断，没有受到-ffinite-math-only的编译期优化影响，所以可以输出正确结果。

解决方法 #

如果你需要保留大部分fast-math的优化能力，同时需要支持NaN、inf的检查，可以选择两种方案：

• 不直接使用-ffast-math，而是手动开启你需要的其他fast-math子优化项，排除-ffinite-math-only
• 编译时同时添加-ffast-math和-fno-finite-math-only，手动关闭“仅存在有限浮点数”的假设，此时isnan()、isinf()即可恢复正常功能

内容的提问来源于stack exchange，提问作者mivkov