如何利用broadcasting计算点积？维度调整与索引疑问咨询

一、如何利用Broadcasting计算点积？ #

点积的核心是对应元素相乘后求和，Broadcasting能帮我们在不对数组做显式复制的前提下，让不同形状的数组完成元素级运算。举个具体例子：
假设我们有两个数组：

• a：形状为 (2, 3, 4)（2个样本，每个样本是3×4的矩阵）
• b：形状为 (4,)（一个4维向量）

我们想给每个3×4的矩阵都和b做点积，得到形状为(2, 3)的结果。用Broadcasting的步骤是：

1. 用[None, None, :]（或者np.expand_dims()）给b扩展维度，让它的形状变成(1, 1, 4)，这样就能和a的形状(2, 3, 4)匹配Broadcasting规则；
2. 对两个数组做元素级相乘；
3. 在最后一个维度上求和，得到点积结果。

代码示例：

import numpy as np

a = np.random.rand(2, 3, 4)
b = np.random.rand(4,)

# 扩展b的维度，匹配broadcasting
b_expanded = b[None, None, :]  # 等价于b.reshape(1,1,4)
dot_product = (a * b_expanded).sum(axis=-1)
print(dot_product.shape)  # 输出 (2, 3)

本质上，Broadcasting是让低维数组的维度“广播”到和高维数组一致，这样就能避免冗余的内存复制，高效完成批量点积计算。

二、如何让结果维度为(2, 3)而非(2, 3, 1)？ #

如果你的计算结果是(2, 3, 1)，大概率是求和时设置了keepdims=True，或者扩展维度的方式导致最后多了一个长度为1的轴。除了调整求和的axes参数，还有两种简单方法：

1. 用squeeze()去除长度为1的轴：
   直接对结果调用squeeze()，它会自动移除所有维度大小为1的轴；如果只想移除特定轴，也可以指定轴的索引：

   # 假设之前得到形状为(2,3,1)的结果
   result = (a * b[:, None]).sum(axis=-1, keepdims=True)
   fixed_result = result.squeeze(axis=-1)  # 只移除最后一个长度为1的轴
   print(fixed_result.shape)  # 输出 (2, 3)
   

2. 求和时不启用keepdims：
   numpy的sum()函数默认keepdims=False，求和后会自动去掉被求和的轴。如果你之前手动设置了keepdims=True，把这个参数去掉就能直接得到(2,3)的结果：

   # 默认keepdims=False，求和后自动去掉目标轴
   dot_product = (a * b_expanded).sum(axis=-1)
   

三、为什么[:, None]看起来无法生效？ #

[:, None]的作用是在数组的指定位置插入一个新的维度，比如：

• 原数组形状是(4,)，b[:, None]会变成(4, 1)；
• 原数组形状是(2,3)，b[:, None]会变成(2, 3, 1)。

你觉得它“无法生效”，可能是这两种情况：

1. 扩展的维度位置不对：比如你需要的是在前面加维度（比如(1,4)），但用了[:, None]得到(4,1)，这时候应该用b[None, :]而不是[:, None]；
2. 后续操作抵消了维度扩展：比如你扩展维度后又做了求和，且求和的轴刚好是你新增的那个轴，那维度就会被去掉，看起来像是[:, None]没起作用。

举个反例：如果你想让b从(4,)变成(1,4)来匹配(2,3,4)的a，却用了b[:, None]得到(4,1)，Broadcasting会把(4,1)广播成(2,3,4,1)，最后求和得到(2,3,1)——这就是你之前得到多余维度的原因！所以关键是要根据数组形状，选择正确的维度扩展位置。

内容的提问来源于stack exchange，提问作者kinder chen