如何估算按10的幂次取整后数字的取整精度
估算取整精度的方法
已知某数字是按10的幂次(如100、10、1、0.1等)精度取整得到的,在未知原数的前提下,可通过该取整后数字估算对应的取整精度。这种方法可用于实现多组数字按同一精度取整的需求。
示例:
8 => 1 // 取整到最接近的*1* 88 => 1 80 => 10 // 取整到最接近的*10* 4530 => 10 4000 => 1000 // 取整到最接近的*1000* 0.024 => 0.001 0.02 => 0.01 0.024332 => 0.000001 4000.7 => 0.1 // 取整到最接近的*0.1*
内容的提问来源于stack exchange,提问作者Party Ark
相关产品推荐
相关产品推荐

