VS2017调试器float变量显示异常，实际内部值正确如何解决？

别担心，这不是VS2017调试器的bug，也不是你的代码出问题了——本质是浮点数的二进制存储精度限制在搞鬼，咱们一步步说清楚：

问题本质：float的精度局限 #

float是单精度浮点数，用32位二进制存储数值，但很多十进制小数（比如你用到的9.9）转换成二进制时是无限循环的，根本没法精确存储，只能取一个最接近的近似值。你看到调试器显示的9.89999962，才是变量在内存里真实存储的数值；而cout输出的9.9，只是它做了格式化处理后的结果。

为什么cout和调试器显示不一样？ #

cout默认会对浮点数输出做四舍五入格式化，默认只展示到小数点后6位以内的有效数字，把那个微小的偏差给掩盖了，看起来像是精确值，但实际变量内部的存储值就是调试器显示的近似值。

解决办法 #

根据你的需求，有几种处理方式：

• 调试时看直观值：右键调试器里的float变量，选择「格式化」→「数字」→「固定小数位数」，设置成你需要的位数（比如1位），调试器就会显示和cout类似的格式化结果。
• 提升精度减少偏差：如果业务上需要更精确的数值计算，把float换成double（双精度，64位存储，偏差会小很多）或者long double，大部分场景下能让调试器显示的数值更接近你预期的十进制值。
• 自定义调试显示：在VS的监视窗口里，你可以手动输入格式化表达式，比如输入obj_carro.vel1000rpm.back(), fixed, 1，就能直接看到保留1位小数的结果。

你的代码与输出验证 #

你执行的代码：

obj_carro.vel1000rpm.push_back(stof(parte[2].substr(0, pos))); 
cout << stof(parte[2].substr(0, pos)) << endl; 
cout << obj_carro.vel1000rpm[obj_carro.vel1000rpm.size() - 1] << endl;

控制台输出：

9.9
9.9

VS2017调试器显示：

9.89999962 float

内容的提问来源于stack exchange，提问作者Rogério Dec