含零数组的Shannon熵计算返回NaN问题咨询

我明白你遇到的问题了——用Numpy计算Shannon熵时，只要数组里有0，结果就变成NaN，还会弹出除零警告。咱们先拆解下原因，再给出简单的解决办法。

问题根源 #

先看你原来的代码：

import numpy as np

A = np.random.randint(10, size=10)
pA = A / A.sum()
Shannon2 = -np.sum(pA*np.log2(pA))

当数组里有0时，pA中就会出现0值。数学上，0乘以log₂(0)的极限是0，但Numpy里直接计算的话，log2(0)会返回负无穷，0乘负无穷就变成了NaN，同时触发RuntimeWarning（因为计算log₂(0)相当于处理趋近于0的数，底层会触发除零相关的警告）。

解决方案 #

咱们只需要把0*log2(0)这种情况手动修正为0就行，完全符合熵的数学定义。这里有两种常用方法：

方法一：手动替换NaN项

直接在计算后把结果里的NaN替换成0，代码如下：

import numpy as np

# 含零的示例数组
A = np.array([7, 6, 6, 8, 8, 2, 8, 3, 0, 7])
pA = A / A.sum()

# 计算熵项，把NaN替换为0
entropy_terms = pA * np.log2(pA)
entropy_terms = np.where(np.isnan(entropy_terms), 0, entropy_terms)

# 计算最终熵值
Shannon2 = -np.sum(entropy_terms)
print(Shannon2)  # 输出类似3.063的结果

也可以写成更简洁的一行：

Shannon2 = -np.sum(np.where(pA == 0, 0, pA * np.log2(pA)))

方法二：用Scipy的现成函数

Scipy的entropy函数已经内置了对0值的处理，不需要手动修正，直接调用就行：

import numpy as np
from scipy.stats import entropy

A = np.array([7, 6, 6, 8, 8, 2, 8, 3, 0, 7])
pA = A / A.sum()
Shannon2 = entropy(pA, base=2)  # 指定base=2就是以2为底的Shannon熵
print(Shannon2)

验证效果 #

用你给出的含零数组[7 6 6 8 8 2 8 3 0 7]，两种方法都会返回正确的熵值（大概3.06左右），不会再出现NaN和警告。

内容的提问来源于stack exchange，提问作者user9639519