np.float64转np.float32时部分数值异常改变的技术咨询

问题根源：float32的精度限制 #

float32（单精度浮点数）的有效尾数仅23位，这意味着它只能精确表示**-16777216到16777216**范围内的整数。你用到的数值20110927已经超出这个范围，无法被float32精确存储。

超过这个范围后，float32的最小可分辨间隔（相邻两个可表示值的差）会变为2，因此奇数会被自动舍入到最近的偶数——这就是20110927.0转成float32后变成20110928.0的原因，后者是该范围内float32能精确表示的最近值。

这不是numpy或cupy的bug，是IEEE 754浮点数标准的固有特性，任何遵循该标准的平台都会出现这个问题。

可行的解决方案 #

• 改用整数或日期类型存储：如果这些数值是YYYYMMDD格式的日期编码，完全没必要用浮点数。直接存为int64类型，或者用numpy的datetime64类型（比如np.datetime64('2011-09-27')），既能保证精度，还能利用日期相关的操作函数。
• 保留float64类型：float64（双精度浮点数）的有效尾数有52位，能精确表示**-9007199254740992到9007199254740992**范围内的整数，你的数值远在这个区间内，用float64可以精确存储，不会有精度损失。
• 接受舍入（仅非精度敏感场景）：如果业务场景对精度要求不高，能接受这种近似转换，可继续使用float32，但要明确这种舍入是必然的。

内容的提问来源于stack exchange，提问作者Anas