Numpy矩阵向量乘法性能波动明显，该现象是否正常？如何解释？

API 探路者

2026-7-27

问题描述

我用以下脚本测试Numpy的矩阵-向量乘法性能：

import numpy as np
import argparse
from timeit import default_timer as timer

p = argparse.ArgumentParser()
p.add_argument("--N", default=1000, type=int, help="size of matrix A")
p.add_argument(
    "--repeat", default=1000, type=int, help="perform computation x = A*b repeat times"
)
args = p.parse_args()

np.random.seed(0)
A = np.random.rand(args.N, args.N)
b = np.random.rand(args.N)
x = np.zeros(args.N)

ts = timer()
for i in range(args.repeat):
    x[:] = A.dot(b)
te = timer()

gbytes = 8.0 * (args.N**2 + args.N * 2) * 1e-9
print("bandwidth: %.2f GB/s" % (gbytes * args.repeat / (te - ts)))

这个脚本会生成随机稠密矩阵，重复执行repeat次矩阵-向量乘法，计算包含内存读写和计算的平均带宽。但在笔记本上多次运行后，结果波动非常明显：

~/toys/python ❯ python numpy_performance.py --N 8000 --repeat 100
bandwidth: 93.64 GB/s
~/toys/python ❯ python numpy_performance.py --N 8000 --repeat 100
bandwidth: 99.15 GB/s
~/toys/python ❯ python numpy_performance.py --N 8000 --repeat 100
bandwidth: 95.08 GB/s
~/toys/python ❯ python numpy_performance.py --N 8000 --repeat 100
bandwidth: 77.28 GB/s
~/toys/python ❯ python numpy_performance.py --N 8000 --repeat 100
bandwidth: 56.90 GB/s
~/toys/python ❯ python numpy_performance.py --N 8000 --repeat 100
bandwidth: 63.87 GB/s
~/toys/python ❯ python numpy_performance.py --N 8000 --repeat 100
bandwidth: 85.43 GB/s
~/toys/python ❯ python numpy_performance.py --N 8000 --repeat 100
bandwidth: 95.69 GB/s
~/toys/python ❯ python numpy_performance.py --N 8000 --repeat 100
bandwidth: 93.91 GB/s
~/toys/python ❯ python numpy_performance.py --N 8000 --repeat 100
bandwidth: 101.99 GB/s

请问这种波动现象正常吗？如果正常，该怎么解释？

回答

这种性能波动是完全正常的，主要原因可以从以下几个角度解释：

笔记本的动态功耗与降频：笔记本为了控制发热，CPU/GPU会根据负载和温度动态调整主频。如果前几次运行时硬件温度较低，能维持高频运行，带宽就高；多次运行后温度上升，触发降频，性能就会明显下降。你看到的低带宽结果（比如56.90 GB/s）大概率是降频后的表现。
系统后台进程干扰：笔记本系统后台总会有各种进程在运行——比如系统更新、杀毒扫描、文件索引、浏览器后台任务等。这些进程会抢占CPU、内存带宽资源，导致Numpy的计算任务得不到足够的硬件资源，性能出现波动。
缓存命中率变化：虽然你的脚本里矩阵A和向量b是固定的，但操作系统的缓存管理可能受其他进程影响，或者每次运行时缓存的加载状态略有不同，导致缓存命中率波动，进而影响计算效率。不过这个因素的影响通常比前两个小。
Numpy的线程调度差异：Numpy底层依赖的BLAS库（比如OpenBLAS、MKL）会使用多线程并行计算。操作系统的线程调度在不同运行时机可能有差异，比如核心负载分布不均，也会导致性能波动。

如果想获得更稳定的测试结果，可以试试这些方法：

测试前关闭所有后台无关进程，尽量减少系统干扰；
先预热几次计算（比如在计时前先跑几次A.dot(b)），让硬件进入稳定状态；
多次测试后取平均值或中位数，避免单次结果的偶然性；
在BIOS里关闭CPU的节能/降频选项（如果允许的话），但这会增加发热。

内容的提问来源于stack exchange，提问作者aaronfu