使用NumPy生成1-100000数组计算y=x*x时出现3万多负值是什么原因?
问题原因与解决方案
异常原因
这是NumPy的整数溢出问题导致的:np.arange(1,100000)默认生成的是32位有符号整数(int32)类型数组,32位有符号整数的合法取值范围是-2^31 ~ 2^31-1,也就是-2147483648到2147483647。
当x的取值大于46340时,x*x的结果就会超过2^31-1的上限,发生溢出后二进制最高位的符号位被置为1,读取时就会被识别为负数,最终统计出大量负值结果。
解决方法
只需要主动指定数组为存储范围更大的数值类型即可,共有三种常见实现方式:
- 生成x数组时直接指定64位有符号整数类型:
x = np.arange(1, 100000, dtype=np.int64) y = x * xint64类型的最大值约为9e18,远大于100000的平方(1e10),完全不会发生溢出。 - 生成x数组时指定为64位浮点数类型:
浮点数的存储范围远大于普通整数,同样可以避免溢出问题。x = np.arange(1, 100000, dtype=np.float64) y = x * x - 如果已经生成了默认类型的x数组,计算时临时转换类型即可:
x = np.arange(1, 100000) y = x.astype(np.int64) * x
内容的提问来源于stack exchange,提问作者Sandeep Agrawal
相关产品推荐
相关产品推荐

