为何变量在两个本地L1缓存间弹跳会大幅拖慢代码执行速度？

首先明确一个基础速度差：现代x86 CPU的存储层次访问延迟差距极大，核心私有L1缓存访问仅需1_{4个时钟周期，私有L2缓存需10}20个时钟周期，多核共享L3缓存需40~60个时钟周期，直接访问主存则需要200个以上时钟周期，差了两个数量级。

多核CPU靠缓存一致性协议（主流是MESI协议族）保证各个核心看到的共享数据一致，这个协议的核心规则很简单：

任何核心要修改共享变量，必须先拿到该变量所在缓存行的独占所有权；拿到所有权之前，其他所有核心本地缓存中保存的同一缓存行副本，必须全部标记为无效状态，不能直接读写本地副本。

你看到的“变量在两个核心L1缓存之间来回弹跳”，本质就是两个核心反复争抢同一个缓存行的独占所有权，完整过程如下：

• 初始状态下Core 0要更新sharedCounter，先向总线广播作废请求，等其他所有核心应答确认自己本地的对应缓存行已作废，Core 0拿到独占所有权，把缓存行标记为已修改状态，此时读写sharedCounter直接操作本地L1，速度极快。
• 紧接着Core 1也要更新同一个sharedCounter，查自己L1发现对应缓存行是无效状态，随即向总线发请求：一方面要从Core 0（或中转到L3）拉取最新的缓存行数据，另一方面要广播作废请求，让Core 0把本地L1里的这个缓存行标记为无效，等所有应答回来Core 1拿到独占权，才能完成写操作。
• 下一次Core 0再要更新sharedCounter，又要重复一遍上面的请求、广播作废、等待应答、跨核传数据的流程，缓存行的所有权就在两个核心的L1之间来回跳。

这个过程带来的性能损耗主要来自三个方面：

• 每次缓存行所有权转移都要触发完整的总线事务，开销远高于本地L1访问：本来单核心写本地L1只要个位数时钟周期，一次跨核转移的总线仲裁、消息广播、应答等待、数据传输就要几十到上百个时钟周期，单次操作的开销直接翻几十倍。
• 缓存一致性请求会直接触发CPU流水线停顿：核心本来可以靠乱序执行、写缓冲把连续的指令重叠执行，一旦遇到要等待跨核缓存传输的请求，流水线会直接停摆等数据，后面排队的上百条指令都没法推进，CPU的指令级并行能力完全发挥不出来。
• 这种弹跳不要求两个核心真的改同一个变量：只要两个核心各自修改的变量刚好落在同一个64字节（主流CPU缓存行大小）的缓存行里，哪怕两个变量逻辑上完全无关，也会触发一模一样的所有权争抢，也就是常说的伪共享问题——这也是LMAX Disruptor做缓存行填充要解决的核心性能瓶颈。

给个直观的性能参考：单线程在核心上反复累加一个本地变量，每秒可以完成几十亿次操作；如果两个线程绑在不同核心上反复累加同一个共享计数器，每秒通常只能完成几千万次操作，差出的一个数量级以上的性能损耗，几乎全来自缓存行来回弹跳的开销。

内容的提问来源于stack exchange，提问作者dopller