bc工具的计算精度(小数位数)上限是多少?
bc工具的平方根精度相关问题
- 和C语言的浮点运算相比,
bc工具可以输出数百位小数的平方根结果,而C语言的精度仅能达到15位小数 - 我已经验证过
bc计算出的√2前50位小数是准确的,但目前不清楚bc的精度上限,也未找到相关的参考资料
内容的提问来源于stack exchange,提问作者Ian Stewart
相关产品推荐
相关产品推荐
bc工具可以输出数百位小数的平方根结果,而C语言的精度仅能达到15位小数bc计算出的√2前50位小数是准确的,但目前不清楚bc的精度上限,也未找到相关的参考资料内容的提问来源于stack exchange,提问作者Ian Stewart