如何理解向量架构工作原理及流水线停顿？以MIPS为例

一、为什么常规MIPS的流水线停顿频率是向量版的64倍？ #

先看两种架构的执行逻辑差异：

常规MIPS的执行模式 #

处理Y = a * X + Y时，需要写一个64次的循环，每次迭代仅处理1个双精度元素，核心代码大概是这样：

loop:
L.D F0, 0($s0)    # 加载X的单个元素
MUL.D F0, F0, F2   # 乘以标量a（存在F2）
ADD.D F4, F0, F4   # 加上Y的对应元素
S.D F4, 0($s1)    # 存回Y
ADDI $s0, $s0, 8   # X地址偏移8字节（双精度长度）
ADDI $s1, $s1, 8   # Y地址偏移8字节
BNE $t0, $zero, loop # 循环64次

每次循环里的浮点运算指令（MUL.D、ADD.D）都会因流水线延迟产生停顿——比如MIPS浮点流水线有3-4级延迟，每次执行这些指令时，后续指令必须等流水线排空才能继续。也就是说每处理1个元素，就要经历一次浮点运算的流水线停顿，64个元素对应64次独立停顿（实际可能还有分支预测等额外开销，但核心是每个元素对应一次停顿周期）。

向量MIPS的执行模式 #

向量架构用单条指令处理整个64元素向量，核心代码是：

LV V0, ($s0)       # 加载整个X向量到V0（64个元素）
MULV.D V1, V0, F2  # V0所有元素乘以a，结果存V1
LV V2, ($s1)       # 加载整个Y向量到V2
ADDV.D V3, V1, V2  # V1与V2对应元素相加
SV V3, ($s1)       # 存回Y向量

每条向量指令仅在处理第一个元素时触发一次流水线停顿——向量流水线是连续流式处理的，第一个元素进入流水线后，后续每个时钟周期都能处理下一个元素，不需要重新启动流水线。比如MULV.D指令，第一个元素进入乘法流水线时停顿3个周期，之后每个周期输出一个乘积，64个元素仅需一次停顿，后续无额外停顿。

两者对比：常规版是64次停顿（每个元素一次），向量版核心运算仅1-2次停顿，因此书里得出“停顿频率约为向量版的64倍”的结论。

二、向量架构的具体工作机制 #

• 长向量寄存器与数据并行：向量处理器配备一组长向量寄存器（比如MIPS向量版的寄存器可容纳64个双精度元素，共512位），单条向量指令可对寄存器内所有元素执行相同操作，实现大规模数据级并行。
• 流水线流式处理：向量指令执行时，仅第一个元素会因流水线填充产生停顿，之后每个时钟周期自动处理下一个元素，直到整个向量处理完成，彻底避免了循环迭代带来的流水线反复启停开销。
• 访存与运算重叠：向量加载/存储指令支持连续地址的批量传输，硬件自动处理地址递增，且可与运算流水线重叠执行——比如加载向量的同时，前几个元素已进入运算单元开始计算，隐藏访存延迟。
• 灵活的向量控制：部分向量架构支持可变向量长度（处理不足满长的向量），或通过掩码寄存器跳过特定元素，适配不同规模的并行任务。

三、向量架构与MMX/SSE/AVX等SIMD扩展的区别 #

内容的提问来源于stack exchange，提问作者Bbbbbunn2023