使用Numba @jit与Numpy float32时出现精度不一致问题

这个精度差异的核心原因在于Numba在nopython=True模式下对np.mean的处理逻辑和原生numpy不同：

• 原生numpy处理float32数组的np.mean时，默认会将最终结果转换回float32类型（即使内部计算可能临时使用更高精度的float64），所以返回的是numpy.float32，精度被限制在float32的有效范围内（约7位十进制数字）。
• 而Numba的nopython模式为了减少中间计算的截断误差，会在内部用float64精度完成均值计算，并且直接返回Python原生的float类型（本质就是float64），保留了更高精度的计算结果。这就导致两者的输出在小数第7-8位出现差异——原生numpy的结果是float32的截断值，而Numba返回的是完整的float64计算值。

你切换到float64时差异大幅缩小，是因为此时两者的计算精度基准一致（都是float64），仅有的微小差异是不同实现路径下的正常浮点舍入误差，属于可接受的范围。

既然你必须保留float32以节省内存，只需要在Numba函数中将计算结果显式转换为float32即可，这样既利用Numba的计算效率，又保证结果精度和原生numpy对齐：

修改你的Numba函数代码：

import numpy as np
from numba import jit

@jit(nopython=True)
def test_numba(inArray):
    outArray = np.mean(inArray)
    return np.float32(outArray)  # 显式转换为float32

运行修改后的代码，输出会和原生numpy的结果完全一致：

Get: 0.09824067 Type: <class 'numpy.float32'>
Want: 0.09824067 Type: <class 'numpy.float32'>

这样做的原理是：将Numba内部float64精度的计算结果截断到float32的精度范围，和原生numpy的处理逻辑对齐，既满足内存节省的需求，又消除了精度差异。

内容的提问来源于stack exchange，提问作者user2403531