如何对批量图像等[batch, H, W]形N维矩阵执行批量点积运算

你的实现正确性判断 #

你选择的y1维度与输入X批量维度对齐的方案是完全正确的，这也是批量处理场景下的标准实现方式。这种方案下每个批量样本的矩阵乘法互不干扰，没有多余的广播开销，计算效率最高，也完全符合批量处理图像/文本序列的业务逻辑。
你测试的其他维度组合虽然语法上可以运行，但np.dot在高维场景下的匹配逻辑比较模糊，得到的结果往往不符合批量处理的预期，不推荐在批量场景下使用。

N维矩阵乘法通用规则 #

1. 批量矩阵乘法（最常用场景） #

可以看作二维矩阵乘法的批量扩展，规则如下：

• 张量的最后两个维度严格遵循二维矩阵乘法的维度匹配规则：[M, N] × [N, P] = [M, P]
• 最后两个维度之外的所有维度为批量维度，批量维度要么完全相等，要么符合广播规则（如果你需要所有批量样本复用同一个变换矩阵的话）

举你给出的示例说明：
X维度为[batch=2, M=3, N=4]，y1维度为[batch=2, N=4, P=3]，相乘后得到的结果维度为[batch=2, M=3, P=3]，刚好是每个样本单独做二维矩阵乘法的结果拼接。
这种场景下优先用@运算符或者np.matmul实现，比np.dot行为更可预期，不容易踩坑：

res = X @ y1 # 等价于 np.matmul(X, y1)

2. 通用任意维度张量乘法 #

如果需要更灵活的维度匹配规则，可以用爱因斯坦求和约定（einsum），可以自由指定哪些维度做求和、哪些维度保留，适配所有N维张量乘法需求，性能也经过了numpy、深度学习框架的底层优化。
比如上面的批量矩阵乘法用einsum实现的写法是：

res = np.einsum('b m n, b n p -> b m p', X, y1)

你可以通过修改引号内的维度标识，实现任意自定义的维度匹配逻辑。

内容的提问来源于stack exchange，提问作者Deshwal