为何从float类型0中减去极小值1e-12未得到预期的0?
关于float极小值运算结果的疑问
已知区分两个float值的最小差值为FLT_EPSILON,其定义为:
#define FLT_EPSILON 1.19209290E-07F // decimal constant
由于1e-12小于FLT_EPSILON的一半,我原本预期从0中减去这个极小值后结果应为0,但以下C++程序输出了-0.000000000001000:
#include <stdio.h> #define EPSILONF static_cast<float>(1e-12) int main() { printf("Value of EPSILONF: %.15f\n", float(0.0f-EPSILONF)); return 0; }
请问我忽略了什么要点?
问题解析
FLT_EPSILON的适用范围并非全局:FLT_EPSILON特指1.0f与下一个可表示的float值之间的差值,不是所有float数值区间的最小可区分间隔。float是二进制浮点数,尾数有效位数固定,数值越小,相邻可表示值的间隔也越小。1e-12远在float的可表示精度范围内,所以0.0f减去它不会被舍入为0。
printf格式符的精度陷阱:你使用的
%.15f是针对double类型的输出格式。虽然传入的是float,但printf会自动将其提升为double类型。double的精度远高于float,能完整保留这个极小值的信息,因此输出时会显示出非0的结果。如果换成适合float的输出精度(比如%.6f),就能看到舍入后的0。极小值本身可被float表示:宏定义里的
1e-12是double字面量,转换为float时,这个值并没有被舍入为0——因为float对接近0的数值有更高的精度,所以EPSILONF本身就是一个非0的float值,0减去它自然得到非0结果。
内容的提问来源于stack exchange,提问作者SKPS
相关产品推荐
相关产品推荐

