矩阵乘法转置性质为何仅在数组最后一维为1时精确相等不成立

这个现象的核心是NumPy底层不同矩阵乘法路径的浮点舍入差异导致，具体原因如下：

• 首先明确：浮点运算不满足严格的结合律，同一批数值采用不同的累加/运算顺序，最终结果会出现微小的舍入误差，误差范围在1e-15级别，完全符合浮点运算的精度规范，这也是np.allclose全部通过的原因。而整数运算没有舍入误差，所以整数数组场景下不会出现该问题。
• 当last_dim=1时，你进行的矩阵乘本质是「矩阵 × 向量」运算，NumPy底层会调用轻量化的点积运算路径，和常规矩阵乘的通用GEMM（通用矩阵乘法）路径的累加顺序完全不同：
  • 左式(A@B).T走的是矩阵乘向量的运算路径，累加顺序是逐元素乘完后按特定顺序求和
  • 右式B.T @ A.T因为形状适配问题，会走通用矩阵乘的路径，累加顺序是分块并行求和
    两种路径的舍入结果不完全一致，因此np.array_equal的通过率很低。
• 当last_dim>1时，左右两个表达式的运算都会触发NumPy的通用GEMM路径，运算顺序、优化逻辑完全一致，舍入误差也完全相同，因此结果可以精确相等。
• 高维场景下的问题同理：只要最后参与矩阵乘的维度有一边为1，就会触发轻量化的特殊运算路径，和通用路径产生的舍入结果存在差异。

该差异属于浮点运算的正常现象，不会影响实际业务使用，只要用np.allclose做数值校验即可。

内容的提问来源于stack exchange，提问作者haruishi