x86_64平台带饱和运算的uint64_t向量int8_t元素加法实现问询

核心思路 #

1. 溢出检测（无分支）
   int8_t的范围是-128~127，两个数相加的溢出可通过符号位逻辑运算判断：

   • 正溢出：两个正数（符号位0）相加，结果符号位为1
   • 负溢出：两个负数（符号位1）相加，结果符号位为0
     用64位寄存器批量处理8个字节的符号位，通过and、not等指令直接生成溢出标记，无需条件指令。

2. 饱和掩码构造
   根据溢出标记生成对应掩码：

   • 正溢出时，掩码为0x7F7F7F7F7F7F7F7F（每个字节填充127）
   • 负溢出时，掩码为0x8080808080808080（每个字节填充-128）
     无溢出时掩码为0，最终通过or、and将原结果与掩码组合，得到饱和后的值。

3. 批量字节处理
   利用x86_64的64位寄存器一次性操作8个int8_t元素，避免逐字节处理，大幅减少指令数。

C语言示例（对应汇编逻辑） #

#include <stdint.h>

uint64_t saturated_add_int8x8(uint64_t a, uint64_t b) {
    uint64_t sum = a + b;
    const uint64_t sign_mask = 0x8080808080808080ULL;
    const uint64_t sat_pos_val = 0x7F7F7F7F7F7F7F7FULL;
    const uint64_t sat_neg_val = 0x8080808080808080ULL;

    // 提取各操作数和结果的符号位
    uint64_t sign_a = a & sign_mask;
    uint64_t sign_b = b & sign_mask;
    uint64_t sign_sum = sum & sign_mask;

    // 生成正/负溢出的字节级标记（0x01或0x00）
    uint64_t pos_overflow = ((~sign_a) & (~sign_b) & sign_sum) >> 7;
    uint64_t neg_overflow = (sign_a & sign_b & (~sign_sum)) >> 7;

    // 组合饱和值与原结果
    uint64_t sat_pos = pos_overflow * sat_pos_val;
    uint64_t sat_neg = neg_overflow * sat_neg_val;
    return (sum & (~pos_overflow & ~neg_overflow)) | sat_pos | sat_neg;
}

汇编优化方向（符合指令限制） #

以下是简化的汇编片段，指令数可进一步压缩至37条以内：

; 输入：rdi = a（8个int8_t打包），rsi = b
; 输出：rax = 饱和加法结果

mov     rdx, rdi
add     rdx, rsi        ; rdx = a + b
mov     rcx, 0x8080808080808080
and     r8, rdi, rcx    ; r8 = a的符号位掩码
and     r9, rsi, rcx    ; r9 = b的符号位掩码
and     r10, rdx, rcx   ; r10 = sum的符号位掩码

; 计算正溢出标记
not     r8
not     r9
and     r8, r8, r9
and     r8, r8, r10
shr     r8, 7           ; 每个字节转为0x01或0x00

; 计算负溢出标记
not     r10
and     r9, r9, r10
and     r9, r9, rdi
shr     r9, 7

; 生成饱和值并组合结果
mov     rcx, 0x7F7F7F7F7F7F7F7F
imul    r8, rcx         ; r8 = 正溢出饱和值
mov     rcx, 0x8080808080808080
imul    r9, rcx         ; r9 = 负溢出饱和值

not     r8
not     r9
and     rcx, r8, r9
and     rdx, rdx, rcx   ; 保留无溢出的结果字节
or      rdx, rdx, r8
or      rdx, rdx, r9
mov     rax, rdx
ret

内容的提问来源于stack exchange，提问作者Umbra