如何阻止编译器将SIMD常量优化为查找表以避免内存访问？

以下代码（仅作演示，忽略逻辑）：

#include <emmintrin.h>

auto foo(long long const a[], size_t n)
{
    auto const v = _mm_set_epi64x(0xDEADBEEFDEADBEEF, 0xBAADF00DBAADF00D);
    auto r = v;
    for (size_t i = 0; i < n; i += sizeof(v) / sizeof(*a))
    {
        r = _mm_add_epi64(r, _mm_sub_epi64(_mm_load_si128(
            reinterpret_cast<__m128i const*>(&a[i])), v));
    }
    return r;
}

所有编译器都会生成类似如下的内存访问代码：

.LCPI0_0:
        .quad   -4995072469926809587            # 0xbaadf00dbaadf00d
        .quad   -2401053088876216593            # 0xdeadbeefdeadbeef
...
        movdqa  xmm0, xmmword ptr [rip + .LCPI0_0]

尽管使用_mm_set_epi64x而非_mm_load_si128初始化变量，编译器仍会将常量存入静态数据区，通过内存加载到寄存器，这会占用数据缓存行，完全没有必要。

需要可靠且高效地让编译器停止这种优化，将常量保留在指令流中，彻底避免不必要的内存访问。

注：已知引入volatile变量作为临时方案，但这只是改用栈内存而非静态数据，并未消除内存访问，需要更佳方案。

1. 用constexpr声明常量（C++11及以上） #

将变量v声明为constexpr，强制编译器在编译期完成初始化，直接生成包含立即数的指令，而非从静态数据区加载：

#include <emmintrin.h>

auto foo(long long const a[], size_t n)
{
    constexpr auto v = _mm_set_epi64x(0xDEADBEEFDEADBEEF, 0xBAADF00DBAADF00D);
    auto r = v;
    for (size_t i = 0; i < n; i += sizeof(v) / sizeof(*a))
    {
        r = _mm_add_epi64(r, _mm_sub_epi64(_mm_load_si128(
            reinterpret_cast<__m128i const*>(&a[i])), v));
    }
    return r;
}

GCC、Clang和MSVC在支持C++11及以上标准时，都会将constexpr修饰的SIMD常量直接编码为指令中的立即数，生成movdqa xmm0, imm128这类指令，完全避免内存访问。

2. 直接使用立即数加载的内在函数（特定编译器） #

GCC/Clang提供了直接加载128位立即数的内在函数__builtin_ia32_movdqa，可直接传入两个64位常量：

#include <emmintrin.h>

auto foo(long long const a[], size_t n)
{
    auto const v = __builtin_ia32_movdqa(0xBAADF00DBAADF00DULL, 0xDEADBEEFDEADBEEFULL);
    auto r = v;
    // 循环逻辑不变
    return r;
}

这种方式更直接，但仅适用于GCC/Clang系列编译器，兼容性稍弱。

3. 配合编译选项强化优化 #

确保开启-O2或-O3等级的优化，低优化等级下编译器可能仍会将常量存入静态数据区。同时添加-march=native，让编译器针对目标CPU生成最优指令，进一步确保立即数被直接编码到指令流中。

效果验证 #

修改后编译器生成的汇编会直接包含立即数加载指令，类似：

movdqa  xmm0, {0xDEADBEEFDEADBEEF, 0xBAADF00DBAADF00D}

（具体格式因编译器略有差异，但核心是无需访问内存，直接从指令流加载常量）

内容的提问来源于stack exchange，提问作者user541686