如何优化AVX2寄存器8个32位浮点数据的散射操作？

AVX2本身没有原生的32位浮点散射指令（该特性需AVX-512的VSCATTERPS支持），但可以通过手工编写intrinsics或汇编优化GCC自动生成的shuffle+extract+movss序列，尤其是在数据位于L1/L2缓存时，能有效提升指令吞吐量。

优化思路 #

GCC对循环展开后的代码会为每个元素生成VSHUFPS+VMOVSS的组合指令，而手工优化可以直接使用VPEXTRPS（提取浮点）和VPEXTRD（提取索引）指令，减少单元素处理的指令数，降低总指令开销，同时让CPU更易并行执行指令。

手工intrinsics实现 #

#include <immintrin.h>

void scatter_ps_avx2(float* array, __m256 A, __m256i IDX) {
    // 直接提取每个浮点元素与对应索引，完成散射存储
    array[_mm256_extract_epi32(IDX, 0)] = _mm256_extract_ps(A, 0);
    array[_mm256_extract_epi32(IDX, 1)] = _mm256_extract_ps(A, 1);
    array[_mm256_extract_epi32(IDX, 2)] = _mm256_extract_ps(A, 2);
    array[_mm256_extract_epi32(IDX, 3)] = _mm256_extract_ps(A, 3);
    array[_mm256_extract_epi32(IDX, 4)] = _mm256_extract_ps(A, 4);
    array[_mm256_extract_epi32(IDX, 5)] = _mm256_extract_ps(A, 5);
    array[_mm256_extract_epi32(IDX, 6)] = _mm256_extract_ps(A, 6);
    array[_mm256_extract_epi32(IDX, 7)] = _mm256_extract_ps(A, 7);
}

该代码会被编译为VPEXTRPS+VPEXTRD+MOVSS的序列，比GCC生成的代码少一条shuffle指令，单元素处理的指令开销更低。

手工汇编实现 #

如果需要极致性能，可以直接编写汇编代码，进一步控制指令序列：

scatter_ps_avx2:
        vmovdqa ymm1, ymm2        ; 保存索引寄存器IDX
        ; 处理第0个元素
        vpextrps xmm0, ymm0, 0
        vpextrd ecx, ymm1, 0
        movss [rdi+rcx*4], xmm0
        ; 处理第1个元素
        vpextrps xmm0, ymm0, 1
        vpextrd ecx, ymm1, 1
        movss [rdi+rcx*4], xmm0
        ; 处理第2个元素
        vpextrps xmm0, ymm0, 2
        vpextrd ecx, ymm1, 2
        movss [rdi+rcx*4], xmm0
        ; 处理第3个元素
        vpextrps xmm0, ymm0, 3
        vpextrd ecx, ymm1, 3
        movss [rdi+rcx*4], xmm0
        ; 处理第4个元素
        vpextrps xmm0, ymm0, 4
        vpextrd ecx, ymm1, 4
        movss [rdi+rcx*4], xmm0
        ; 处理第5个元素
        vpextrps xmm0, ymm0, 5
        vpextrd ecx, ymm1, 5
        movss [rdi+rcx*4], xmm0
        ; 处理第6个元素
        vpextrps xmm0, ymm0, 6
        vpextrd ecx, ymm1, 6
        movss [rdi+rcx*4], xmm0
        ; 处理第7个元素
        vpextrps xmm0, ymm0, 7
        vpextrd ecx, ymm1, 7
        movss [rdi+rcx*4], xmm0
        vzeroupper
        ret

这个汇编版本完全避免了不必要的shuffle操作，指令序列紧凑，CPU能更好地并行执行提取和存储操作，在缓存命中场景下能显著提升吞吐量。

性能说明 #

由于AVX2无原生散射指令，上述实现已是当前架构下的最优方案——每个元素必须单独计算地址并完成存储，而优化的核心在于减少单元素处理的指令数，降低指令总开销。在L1/L2缓存命中时，存储操作延迟极低，指令吞吐量成为性能瓶颈，因此减少指令数能直接提升执行效率。

内容的提问来源于stack exchange，提问作者zx-81