为何np.var指定where参数报乘法溢出，np.nanvar却可以正常运行

两个看似功能等价的代码运行结果差异，核心是二者的计算逻辑和无效值处理时机完全不同：

• np.var(x, axis=0, where=mask)的默认逻辑：
  多数版本的numpy中，np.var默认采用单路公式E[x²] - (E[x])²计算方差，而where参数仅在最终累加求和阶段生效，计算x²时会遍历数组的所有元素，包括mask标记为无效的位置。如果这些被屏蔽的位置存储了极大的float64值，哪怕后续会被过滤，平方运算阶段也会直接触发溢出报错。
• np.nanvar(x, axis=0)的实现逻辑：
  采用更稳定的双路计算法：先统计有效数值的均值，再对每个有效数值计算与均值的差的平方后求平均，全程只会处理非nan的有效位置，不会对被屏蔽的nan位置做任何运算，自然不会触发溢出。

你提到的仅重启内核才能复现报错的问题，原因非常直接：第一次运行报错后，你执行了x[~mask] = np.nan的赋值操作，原x中被屏蔽位置的极大值已经被替换成了nan。第二次再运行带where参数的np.var时，这些位置的nan做平方运算不会触发浮点溢出，自然不会再报错，只有重启内核恢复x的原始值后问题才会复现。

不需要修改原数组、也不需要改用float128，两种可行方案如下：

• 方案1（numpy 1.25+版本适用）：直接指定双路计算方法，和nanvar逻辑完全对齐：

np.var(x, axis=0, where=mask, method='two-pass')

• 方案2（全版本兼容，无额外拷贝开销）：手动实现双路方差计算，全程用mask过滤无效值：

# 计算每列有效元素数量
valid_count = np.sum(mask, axis=0)
# 计算每列有效元素均值
col_mean = np.sum(x * mask, axis=0) / valid_count
# 计算方差，如需无偏估计则把除数改为valid_count - 1即可
col_var = np.sum( ((x - col_mean[np.newaxis, :]) ** 2) * mask, axis=0 ) / valid_count

内容的提问来源于stack exchange，提问作者sashkent3