如何将Intel intrinsics向量比较结果转换为8位布尔数组

你之前考虑的逐元素洗牌提取方案确实没有性能收益，这类逐lane操作的开销会抵消SIMD并行带来的优势，以下两种经过工业界验证的方案可以远快于逐元素比较的实现：

方案1：movemask 位提取法（低延迟，通用场景首选） #

x86指令集从SSE开始就提供了专门的掩码提取指令，不需要逐元素操作：

• 用_mm_cmpeq_ps/_mm_cmpgt_ps等比较指令得到掩码后，每个32位lane为全0（假）或全1（真），最高位刚好对应布尔结果
• 用单条_mm_movemask_ps指令，把每个32位lane的最高位提取到通用整数寄存器的对应bit位：处理128位向量得到4位掩码、256位AVX向量用_mm256_movemask_ps得到8位掩码、512位AVX-512向量用_mm512_movemask_ps得到16位掩码
• 把整数里的bit位拆成8位0/1写入输出数组即可

参考实现（SSE版本，一次处理4个浮点数）：

// 输入两个待比较的浮点向量a、b，输出数组out为uint8_t类型
__m128 cmp_result = _mm_cmpeq_ps(a, b);
uint32_t bool_bits = _mm_movemask_ps(cmp_result);
// 编译器会把以下4次位操作优化为无分支的高效指令
out[0] = (bool_bits >> 0) & 1;
out[1] = (bool_bits >> 1) & 1;
out[2] = (bool_bits >> 2) & 1;
out[3] = (bool_bits >> 3) & 1;

这个方案的总延迟只有3~4个CPU周期，远低于逐元素比较或者逐元素shuffle提取的开销，适合数据量不大、对延迟敏感的场景。

方案2：SIMD 饱和打包法（高吞吐量，大数组批量处理首选） #

如果要处理上万甚至更长的浮点数组，可以全程在SIMD寄存器内完成掩码压缩，不需要和通用寄存器交换数据，吞吐量更高：
核心思路是利用饱和打包指令，把32位宽的比较结果逐层打包成8位宽的布尔值：

• 凑够16个浮点数的比较结果（SSE下是4个__m128向量，AVX2下是2个__m256向量）
• 如果要求布尔值严格为0/1，先把每个比较结果和常量1做按位与，把全1的掩码转成32位的1；如果业务逻辑允许非0即真，可以跳过这一步（全1饱和打包后为0xFF，判断真值和1完全等价）
• 用_mm_packs_epi32把32位整数饱和打包成16位整数，再用_mm_packs_epi16把16位整数饱和打包成8位整数
• 一条向量存储指令把打包好的16个8位布尔值一次性写入内存

参考实现（SSE2兼容，不需要更高指令集）：

// 一次处理16个浮点数，cmp0~cmp3是4组比较得到的__m128掩码
__m128i m0 = _mm_and_si128(_mm_castps_si128(cmp0), _mm_set1_epi32(1));
__m128i m1 = _mm_and_si128(_mm_castps_si128(cmp1), _mm_set1_epi32(1));
__m128i m2 = _mm_and_si128(_mm_castps_si128(cmp2), _mm_set1_epi32(1));
__m128i m3 = _mm_and_si128(_mm_castps_si128(cmp3), _mm_set1_epi32(1));

// 32位转16位打包
__m128i p16_0 = _mm_packs_epi32(m0, m1);
__m128i p16_1 = _mm_packs_epi32(m2, m3);
// 16位转8位打包，得到16个连续的8位布尔值
__m128i bool_vec = _mm_packs_epi16(p16_0, p16_1);
// 一次性写入16字节到输出数组
_mm_storeu_si128((__m128i*)out, bool_vec);

这个方案在处理大数组时，性能可以达到逐元素标量实现的4~8倍（AVX/AVX-512下收益更高）。

避坑提示 #

• 不要使用_mm_extract_ps/_mm_shuffle_ps逐元素提取结果，这类指令的延迟高，且逐元素操作完全浪费SIMD并行性，确实不会比标量实现快
• 如果不需要严格的0/1布尔值，跳过and 1的步骤可以进一步提升性能，C/C++里if判断对非0值的处理和1完全一致
• 小于16个元素的比较场景直接用movemask方案即可，打包方案的向量准备开销在小数据量下不划算

内容的提问来源于stack exchange，提问作者JustClaire