矩阵乘法Cache hits相关疑问：视频中cache line利用率表述含义咨询

先引用你提到的那段描述：

处理器会加载64 bytes数据来处理单个数据单元，随后会忽略该cache line上8个floating-point words中的7个，直接跳转读取下一个cache line的内容

这段描述对应的是矩阵乘法非优化访问模式下的低缓存利用率场景，具体含义可以拆解为以下几个部分：

基础硬件前提 #

• 主流CPU的单条缓存行（cache line）标准大小为64字节，当访问的数据不在缓存中时，CPU不会只加载你需要的单个数据，而是会把该数据所在的完整64字节连续内存块全部加载进缓存，该设计是为了利用程序的空间局部性提升后续访问效率。
• 视频中提到的floating-point word指双精度浮点数，单个体积为8字节，因此一条64字节的缓存行刚好可以存储8个连续的双精度浮点数。

触发该场景的访问逻辑 #

矩阵乘法的核心计算逻辑为 C[i][j] = sum(A[i][k] * B[k][j])，C、C++等绝大多数编程语言的二维数组默认使用行优先存储规则：同一行的元素在内存中连续排列，不同行的同列元素之间间隔了一整行的元素长度。
如果没有对矩阵乘法的循环顺序做针对性优化，会出现按列访问矩阵B的情况：计算C[i][j]的过程中，需要依次读取B[0][j]、B[1][j]、B[2][j]……这些元素在内存中并不连续，两个相邻需要读取的元素之间间隔的长度远大于8个浮点数。

对应描述的实际运行过程 #

当你第一次读取B[0][j]时发生缓存缺失，CPU加载包含B[0][j]的完整缓存行，这条缓存行里存储的是连续的8个浮点数：B[0][j]、B[0][j+1]、B[0][j+2]……B[0][j+7]。但你接下来需要读取的下一个元素是B[1][j]，并不在刚加载的缓存行中，因此刚加载的8个浮点数你只用到了B[0][j]这1个，剩下7个完全没有被访问就会被后续加载的缓存行替换，缓存行的有效利用率仅为1/8，会造成大量缓存带宽浪费，拖慢整体运算速度。

内容的提问来源于stack exchange，提问作者Gabriel Gamboa Vargas