GCC-O2编译主循环未复用XMM寄存器问题及解决方法

问题现象 #

使用GCC -O2编译C++代码时，发现核心主循环存在两处不必要的内存访问：编译器未将预计算值和只读数据存入空闲的XMM寄存器，尽管该循环仅包含少量指令。

原始汇编的问题 #

原始编译生成的汇编片段（示意）：

.Lloop:
    movdqa  xmm0, [rdi]
    pcmpestri xmm0, [rsi], 0x18
    jz      .Lexit
    mov     rax, [rdx]  ; 不必要的内存访问：预计算值重复从内存读取
    movdqa  xmm1, [rcx] ; 不必要的内存访问：只读数据重复从内存读取
    ...
    jmp     .Lloop

核心问题：循环内每次迭代都重复从内存读取预计算值和只读数据，而这些值完全可以提前加载到空闲XMM寄存器中，避免重复的内存开销。

理想的优化方向 #

合理的优化应该在循环初始化阶段就把预计算值和只读数据加载到XMM寄存器，循环内直接复用寄存器内容：

; 优化后的理想汇编结构
movdqa  xmm2, [rdx]  ; 预计算值提前加载到XMM2
movdqa  xmm3, [rcx]  ; 只读数据提前加载到XMM3
.Lloop:
    movdqa  xmm0, [rdi]
    pcmpestri xmm0, [rsi], 0x18
    jz      .Lexit
    ; 直接使用xmm2、xmm3，无需再访问内存
    ...
    jmp     .Lloop

代码调整方案 #

通过修改movemask相关的判断逻辑，引导编译器识别出可复用的寄存器资源，最终成功让GCC生成了符合预期的优化汇编——循环内不再有多余的内存访问，直接复用提前加载的XMM寄存器。

可复现测试代码 #

#include <emmintrin.h>
#include <cstdint>

uint64_t process_data(const __m128i* input, const __m128i* pattern, 
                      const __m128i* precomputed, const __m128i* readonly, 
                      size_t count) {
    uint64_t result = 0;
    __m128i mask = _mm_set1_epi8(0x0F);
    // 调整movemask判断逻辑，帮助编译器优化寄存器复用
    for (size_t i = 0; i < count; ++i) {
        __m128i cmp = _mm_cmpeq_epi8(input[i], pattern[0]);
        int cmp_mask = _mm_movemask_epi8(cmp);
        if (cmp_mask == 0xFFFF) {
            __m128i temp = _mm_and_si128(input[i], *precomputed);
            temp = _mm_xor_si128(temp, *readonly);
            result += _mm_extract_epi64(temp, 0);
        }
    }
    return result;
}

内容的提问来源于stack exchange，提问作者linuxCowboy