关于计算(1 - √0.5)任意精度定点表示及不同字长无符号整数适配的技术咨询
2026-4-17
关于计算(1 - √0.5)任意精度定点表示及不同字长无符号整数适配的技术咨询
我这里有一个固定常数：0.29289321881345247559915563789515...，它可以通过公式(1 - √0.5)计算得到。为了能在不同字长的无符号整数中使用，我们需要把它转换为定点数格式（Q格式）。下面是不同字长下的适配示例表：
| 字长 | Q格式 | 十进制值 | 二进制值 |
|---|---|---|---|
| 8-bit | Q0.3 | 5 | 101 |
| 16-bit | Q0.7 | 75 | 1001011 |
| 32-bit | Q0.15 | 19195 | 100101011111011 |
| 64-bit | Q0.31 | 1257966796 | 1001010111110110000110011001100 |
| 128-bit | Q0.63 | 5402926248376769403 | 100101011111011000011001100110000000110001000011001101101111011 |
备注：内容来源于stack exchange，提问作者Kittoes0124
相关产品推荐
相关产品推荐
