为何Awk转换大十六进制数210000000080401为十进制结果不准确?
为什么Awk转换大十六进制数会出错?
我有十六进制数 "210000000080401",需要转换为十进制形式。用Awk执行转换时得到了错误结果:
echo 210000000080401|awk -Wposix '{printf "%d %s\n", "0x" $1, $0}'
输出结果:
148618787703751680 210000000080401
而正确的十进制值是 148618787703751681,通过以下命令可以得到正确结果:
echo 210000000080401 | tr '[:lower:]' '[:upper:]'|xargs -i{} bash -c 'printf "%d\n" 0x{}'
输出结果:
148618787703751681
问题原因
- Awk的数值处理基于C语言的双精度浮点数(double),这种类型的有效精度只有53位二进制,对应大约16-17位十进制数字。
- 你的十六进制数
210000000080401转换成二进制后是54位,超出了double能精确表示的范围,因此会出现精度丢失,最后一位数值被错误截断。 - 而bash中的
printf %d处理十六进制时,是直接使用系统的64位整数运算逻辑,目标十进制数148618787703751681远小于64位有符号整数的最大值(9223372036854775807),所以能完成精确转换。
内容的提问来源于stack exchange,提问作者Asif Ansari
相关产品推荐
相关产品推荐

