为什么不同处理器运行多线程程序可获得的最大加速比存在差异？

• 最常见的原因是两台设备的CPU物理核心数不同：你的笔记本大概率配备4物理核心CPU，另一台测试设备是2物理核心CPU。矩阵乘法属于典型的计算密集型任务，每个物理核心同一时间只能处理一个计算线程，理想情况下加速比上限首先和物理核心数对齐。
• 硬件参数差异也会拉低加速比：如果另一台设备的CPU缓存更小，矩阵乘法运行时缓存命中率更低，频繁的内存访问会抵消多线程带来的收益；如果设备后台还有其他进程占用CPU核心，可用于计算的核心数不足也会导致加速比下降。
• 超线程技术不会给这类任务带来额外增益：如果测试设备是双核四线程的超线程CPU，计算密集型任务下超线程的调度收益几乎为0，实际可利用的计算资源还是只有2个物理核心，加速比自然无法突破2。

参考阿姆达尔定律：加速比 = 1 / (串行代码占比 + 并行代码占比 / 可用核心数)。矩阵乘法的串行代码占比通常极低（不到1%），因此优化到位的程序实际加速比会非常接近物理核心数，核心数越高，能达到的最大加速比也就越高。

不是，存在特殊场景可以超过2：

• 若串行版本的代码优化程度远低于多线程版本，比如串行版没有用到AVX等向量指令集，多线程版本每个核心都调用了AVX256/AVX512指令集做并行计算，单核心算力比串行版提升一倍，双核的总算力就可以达到串行版的4倍，加速比自然超过2。
• 若串行版本运行时存在大量额外开销，比如处理大矩阵时频繁出现缓存抖动，多线程拆分任务后每个子任务都可以完全放进CPU缓存，内存访问开销大幅降低，实际效率提升会超过核心数带来的收益，也可能出现加速比超过2的情况。
• 但对于优化程度一致的纯计算密集型程序，双核CPU的加速比通常不会超过2，甚至会因为多线程调度开销、缓存冲突等问题低于2。

内容的提问来源于stack exchange，提问作者Gaurav Chaudhari