Python接收C程序单精度float转double时低精度位清零方法问询
原理说明
首先你观察到的低位数值不是内存垃圾值:二进制单精度浮点数只有24位有效位(约7~8位十进制有效数字),1.2本身无法用二进制浮点数精确表示,C端存储的单精度1.2本身就自带固定的近似误差,Python转换为双精度只是把单精度存储的真实值完整呈现,没有额外引入误差。
两种zero_double实现,按需选择
实现1:严格对齐单精度二进制精度,清零双精度超范围位
该方式保证双精度中超出单精度尾数范围的二进制位全部置0,完全匹配C端单精度的真实存储值,不会引入额外的十进制舍入误差:
import ctypes def zero_double(val): # 先转单精度丢弃超位信息,再转双精度时自动将低位补0 return ctypes.c_double(ctypes.c_float(val).value).value
运行效果:
In [1]: zero_double(1.2) Out[1]: 1.2000000476837158
实现2:按十进制位数舍入,匹配你示例的输出效果
如果你需要得到小数点后8位全为0的十进制表现,可做定点舍入处理:
def zero_double(val, decimal_places=7): # 保留小数点后7位有效数字,低位自动补0 return round(val, decimal_places)
运行效果:
In [1]: zero_double(1.2000000476837158) Out[1]: 1.2 # 格式化输出可得到你需要的全0表现 In [2]: "{0:.16f}".format(zero_double(1.2000000476837158)) Out[2]: '1.2000000000000000'
内容的提问来源于stack exchange,提问作者RexBarker
相关产品推荐
相关产品推荐

