Python array（非list）缓存性能疑问：读写顺序耗时差异甚微

你的理解没错：Python的array模块确实是连续存储原始类型数据（比如你用的'l'对应长整型），而非像普通list那样存储对象指针。理论上顺序访问（Code A）应该因为CPU缓存命中率更高而比跳跃式访问（Code B）更快，但实际测试差异很小，主要原因有以下几点：

1. Python解释器的循环开销远大于缓存差异 #

Python是解释型语言，每一次for循环的字节码执行、索引计算、元素取值操作都有极大的固定开销。缓存命中/未命中带来的耗时差异，在总耗时里占比极低，所以最终表现出来的差异被严重稀释。

举个直观的例子：假设单次循环的解释器开销是1000个时钟周期，缓存命中的元素访问是1个周期，缓存未命中是100个周期——那Code A的单次循环总开销是1001，Code B是1100，两者差异仅约10%，再加上CPU其他优化的影响，最终就可能只剩3%的细微差距。

2. 现代CPU的硬件预取机制抵消了部分跳跃访问的劣势 #

你的Code B中，数组访问的步长是固定的（每次跳过10000个元素，对应字节数为10000 * 8 = 80000字节）。现代CPU的硬件预取器可以识别这种固定步长的访问模式，提前把后续需要的数据加载到缓存中，从而大幅减少缓存未命中的次数，缩小和顺序访问的性能差距。

验证缓存影响的正确方式 #

如果想真正看到缓存机制带来的性能差异，需要避开Python解释器的循环开销，比如使用numpy（其内部循环基于C实现，开销极低）：

import numpy as np
import time

arr = np.arange(100000000, dtype=np.int64)
sum_val = 0

# 顺序访问
begin = time.time()
for i in range(10000):
    for j in range(10000):
        sum_val += arr[i * 10000 + j]
print(f"顺序访问耗时: {time.time() - begin:.2f}s")

sum_val = 0
# 跳跃访问
begin = time.time()
for i in range(10000):
    for j in range(10000):
        sum_val += arr[j * 10000 + i]
print(f"跳跃访问耗时: {time.time() - begin:.2f}s")

用numpy测试的话，你会发现顺序访问的速度会比跳跃访问快数倍，这才是缓存机制真正发挥作用的表现。

内容的提问来源于stack exchange，提问作者AlwaysLearning