Python计算以太网理论延迟报int无法转float溢出错误如何解决

错误原因 #

报错的核心触发点是：当循环变量i超过1023时，2**(i-1)生成的整数已经超过Python双精度浮点数的最大可表示范围（双精度float上限为2^1023），整数转float时直接触发溢出。
另外你代码里sum([2**(i-1)])属于冗余写法，对单个元素求和没有实际意义，可直接写为2**(i-1)。

修复方案 #

• 修正业务逻辑错误
  你当前的代码把循环变量i（遍历用户规模）直接代入了退避指数的计算，这不符合以太网二进制指数退避的实际规则：标准以太网退避次数上限为10次，最多16次重传后就会丢弃数据包，根本不会出现指数到2000的情况，这是数值爆炸的核心原因，建议先确认公式中指数项的变量含义，不要误用外层循环的用户数变量。
• 用高精度运算模块规避溢出
  如果确实需要计算超大指数的运算结果，可以使用Python标准库decimal模块设置足够的精度，避免原生float的范围限制，示例代码如下：

from decimal import Decimal, getcontext
# 设置足够大的精度，可根据需求调整
getcontext().prec = 10000

tp = Decimal('0.87') * Decimal('10') ** -7
ti = Decimal('0.819') * Decimal('10') ** -3
c = Decimal('2')
tg = Decimal('96') / (Decimal('1') * Decimal('10') ** 7)
x_2 = ti ** 2
Et, Bt, Ew = [], [], []
for i in range(0, 2000):
    lambdaa = Decimal(i * 2)
    ro = lambdaa * (ti / Decimal('2'))
    Ew_val = (lambdaa * x_2 / Decimal('4') * (1 - ro))
    # 注意i=0时2**(i-1)会出现负数指数，可根据业务需求调整边界逻辑
    if i == 0:
        exp_val = Decimal('0.5')
    else:
        exp_val = Decimal('2') ** (i-1)
    Bt_val = (tp / Decimal('2')) * exp_val
    Et_val = tp + ti + Ew_val + (c * (ti + tg + Decimal('2') * tp)) + Bt_val
    Ew.append(Ew_val)
    Bt.append(Bt_val)
    Et.append(Et_val)

• 公式化简减少运算量
  你当前的Bt计算公式可直接化简为Bt = tp * 2^(i-2)，无需先算除法再算乘法，一定程度上也能降低运算过程中出现溢出的概率。

内容的提问来源于stack exchange，提问作者BlackAndWhite