Python函数返回值在调用者与被调用者中不一致问题排查
问题原因分析
问题出在整数类型溢出上:
- 你在
growing_pos函数里定义ipos数组时用了dtype=np.int8,而int8类型的取值范围是-128到127。 - 当插入位置
ipos的值达到130时,这个数值已经超出了int8能表示的最大值127,触发了有符号整数溢出。根据补码规则,130转成int8会变成-126(计算方式:130 - 2^8 = 130 - 256 = -126)。 - 这就导致
insert_sorted里正常返回的130,赋值给ipos[i]后被截断成了负数,最终触发你的错误判断。
解决方法
把ipos数组的类型改成更大范围的整数类型即可,比如np.int32或者np.int64:
ipos = np.zeros(shape=n, dtype=np.int32)
这样即使插入位置超过127,也不会出现溢出问题。
内容的提问来源于stack exchange,提问作者Fortranner
相关产品推荐
相关产品推荐

