如何高效将uint8_t以32位整数形式加载到SIMD寄存器？

我有一个8位整数数组，希望通过SIMD指令进行处理。由于这些整数将与单精度浮点数一同使用，我需要将它们加载到32位通道中，而非更“自然”的8位通道。

假设使用AVX512，现有数组：

std::array<std::uint8_t, 16> i{ i0, i1, i2, i3, i4, i5, i6, i7, i8, i9, i10, i11, i12, i13, i14, i15 };

希望最终得到一个__m512i寄存器，内容如下：

[ 0, 0, 0, i0,
  0, 0, 0, i1,
  0, 0, 0, i2,
  0, 0, 0, i3,
  0, 0, 0, i4,
  0, 0, 0, i5,
  0, 0, 0, i6,
  0, 0, 0, i7,
  0, 0, 0, i8,
  0, 0, 0, i9,
  0, 0, 0, i10,
  0, 0, 0, i11,
  0, 0, 0, i12,
  0, 0, 0, i13,
  0, 0, 0, i14,
  0, 0, 0, i15 ]

注：以AVX512为例，理想情况下希望找到可通过Google Highway等工具在多指令集上抽象的通用策略。

AVX512下的最优实现 #

你当前手动使用_mm512_set_epi32的方式虽可行，但并非最优——这类“构建式”指令可能让编译器生成大量逐个填充寄存器的mov指令。更高效的方式是利用加载+零扩展指令，充分利用SIMD带宽：

1. 先将16个uint8_t数组加载到128位SIMD寄存器：

   __m128i input = _mm_loadu_si128(reinterpret_cast<const __m128i*>(i.data()));
   

2. 调用AVX512的零扩展指令，直接将每个8位无符号整数扩展为32位（高24位补0）：

   __m512i result = _mm512_cvtepu8_epi32(input);
   

   这条指令会自动完成格式转换，完全匹配你需要的寄存器布局，且仅需2条指令，效率远高于逐个填充的方式。

跨指令集通用策略（基于Google Highway） #

如果需要兼容AVX2、SSE4.1、ARM NEON等多指令集，Google Highway提供了统一抽象，无需手动适配不同平台：

1. 引入Highway头文件并定义对应向量类型：

   #include "hwy/highway.h"
   namespace hn = hwy::HWY_NAMESPACE;
   
   // 对应16个32位通道的SIMD向量
   using Vec32 = hn::Vec<hn::uint32_t, hn::kMaxLanes>;
   // 对应16个8位通道的SIMD向量
   using Vec8 = hn::Vec<hn::uint8_t, hn::kMaxLanes>;
   

2. 加载8位数组到Highway的8位向量：

   const Vec8 input_vec = hn::LoadU(hn::Begin(i));
   

3. 将8位向量零扩展为32位向量：

   const Vec32 result_vec = hn::ZeroExtend(input_vec);
   

4. 若需转换为原生SIMD类型（如__m512i）：

   __m512i result = hn::GetLane(result_vec, 0);
   

Highway会在编译时自动检测目标指令集，生成对应平台的最优指令（比如AVX512下生成_mm512_cvtepu8_epi32，AVX2下生成对应扩展指令组合），无需编写分支适配代码。

内容的提问来源于stack exchange，提问作者Rerito