CPU缓存访问多数组的作用及大数组循环赋值的缓存加载与卸载机制

嘿，这个问题问到点子上了——CPU缓存在多数组场景下的作用，刚好是理解现代处理器性能优化的关键。咱们一步步拆解，先搞懂核心作用，再分析你给出的代码里缓存到底怎么工作的。

简单说，缓存就是CPU的「快速储物柜」，面对多个数组时，它的核心作用有这几个：

• 砍断内存延迟：内存速度比CPU慢几十上百倍，缓存把频繁访问的数据（比如数组的连续元素）搬到离CPU更近的地方，不用每次都等内存慢吞吞响应
• 吃定空间局部性：数组是连续内存块，CPU加载一个元素时，会把相邻的一批数据（也就是一个缓存行，通常64字节）一起塞进缓存。后续访问数组的下几个元素时，直接从缓存拿，根本不用碰内存
• 协调多数据流：现代CPU有L1、L2、L3多层缓存，L1是每个核心私有的，L2一般也是核心私有，L3是共享的。面对两个数组时，缓存层级能分别处理两个数组的缓存请求，减少内存总线的冲突，让数据加载更顺畅

先看你这段代码：

for(int i = 0; i < length; i++) {
    arrayA[i] = 13;
    arrayB[i] = 13;
}

两个数组都超过20MB，这肯定比大多数CPU的L1（几十KB）、L2（几MB）缓存大得多，所以缓存会不断地加载、置换，具体流程是这样的：

1. 第一次访问arrayA[0]：CPU检查各级缓存，发现没有这个数据（缓存缺失），于是向内存发请求，把包含arrayA[0]的整个缓存行（比如64字节，对应16个int元素）加载到L1缓存，然后把13写入对应位置——这时候这个缓存行被标记为脏数据，因为内容和内存不一致了
2. 紧接着访问arrayB[0]：同样缓存缺失，加载arrayB[0]所在的缓存行到L1缓存，写入13，同样标记为脏数据
3. 循环到arrayA[1]：这个元素已经在刚才加载的arrayA缓存行里，直接命中L1缓存，瞬间完成写入
4. 就这样，直到当前arrayA的缓存行所有元素都写完，下一个arrayA[i]又会触发缓存缺失，加载新的缓存行；arrayB也是一样的逻辑
5. 当L1缓存被填满后，CPU会用**LRU（最近最少使用）**这类置换算法，把最久没被访问的缓存行踢出去，腾出空间给新的缓存行。比如刚写完arrayB的一个缓存行，接下来要加载arrayA的新缓存行，就可能把之前最早加载的arrayA缓存行（如果很久没碰了）置换掉

缓存的「卸载」其实就是缓存行被置换或者写回内存的过程，主要有这几个场景：

• 缓存空间不足时的置换：当新的缓存行需要加载，但当前缓存层级（比如L1）已经满了，就会触发置换。如果要被置换的缓存行是脏数据（比如我们写入的13还没同步到内存），CPU会先把这个缓存行的数据写回内存，然后再卸载；如果是干净数据（只读没修改过），直接丢弃就行
• 长时间未被访问时：当循环结束后，这两个数组的缓存行如果再也没被访问，后续其他程序或者数据需要缓存空间时，它们会被逐步置换出去
• 进程退出时：当你的程序运行结束，操作系统会清理进程相关的缓存资源，这些数组的缓存行也会被卸载
• 主动失效（这个例子里不存在）：某些特殊指令或者操作系统操作会主动让缓存行失效，但你的代码里没有这种情况，所以不用考虑

另外补充一句：现代CPU用的是写回缓存策略，不是每次写入缓存都立刻同步到内存，而是等缓存行要被置换，或者达到一定的脏数据阈值时才批量写回，这样能减少内存总线的压力，提升效率。

内容的提问来源于stack exchange，提问作者Etwus