C++计算浮点数1/(n-2.001)与计算器结果不同如何获取完整精度

• C++ 默认浮点数输出仅保留 6 位有效数字，你看到的 0.333444 是输出截断的结果，不是实际计算值的精度不足。
• 如果你使用了float类型存储计算结果，该类型仅支持 6~7 位有效数字，本身也会存在精度损失。

第一步：选用高精度浮点数类型 #

优先使用double类型存储计算结果，该类型支持 15~17 位有效数字，完全满足常规科学计算需求；如果需要更高精度可以选择long double类型。

第二步：调整输出精度配置 #

引入 <iomanip> 头文件，使用std::setprecision()指定需要输出的有效数字位数，示例代码如下：

#include <iostream>
#include <iomanip>

int main() {
    int n = 5;
    double res = 1.0 / (n - 2.001);
    // 指定输出10位有效数字，和科学计算器结果对齐
    std::cout << std::setprecision(10) << res << std::endl;
    return 0;
}

运行上述代码输出结果为0.3334444815，和你提供的科学计算器结果完全一致。

内容的提问来源于stack exchange，提问作者Muhammad