多线程下SIMD版本性能下降的原因及相关技术疑问

我编写了一个用于解析varint编码的简单Rust函数，代码如下：

struct Reader {
    pub pos: usize,
    pub corrupt: bool,
}
impl Reader {
     fn read_var(&mut self, b: &[u8]) -> u64 {
        let mut i = 0u64;
        let mut j = 0;
        loop {
            if j > 9 {
                self.corrupt = true;
                return 0;
            }
            let v = self.read_u8(b);
            i |= (u64::from(v & 0x7F)) << (j * 7);
            if (v >> 7) == 0 {
                return i;
            } else {
                j += 1;
            }
        }
    }

    fn read_u8(&mut self, b: &[u8]) -> u8 {
        if self.pos < b.len() {
            let v = b[self.pos];
            self.pos += 1;
            v
        } else {
            self.corrupt = true;
            0
        }
    }
}

我有编译器生成的两个版本代码：非SIMD版本、SIMD版本。非SIMD版本逻辑清晰，编译器将read_u8内联并展开循环；SIMD版本结构与之类似，但我对SIMD指令不熟悉。

奇怪的是，在多核机器上多线程并发运行（每个线程使用独立Reader对象）时，SIMD版本的处理吞吐量大幅下降，但CPU利用率却高于单线程版本；而非SIMD版本的吞吐量随并发度线性增长。

请问这一现象的原因是什么？

同时还有两个相关疑问：

• 该代码看起来无法从SIMD中获益，为何编译器会生成SIMD指令？
• 是否可以针对单个函数禁用SIMD指令生成？

问题解答 #

一、SIMD版本并发性能下降的原因 #

SIMD指令依赖CPU的向量执行单元，而varint解析本质是单字节流式处理，这种场景下SIMD属于“强行适配”：

• 单线程时，SIMD可能通过循环展开+向量指令批量处理少量字节，但varint长度不固定（1-10字节），向量化的实际收益极低，甚至因指令复杂度增加产生额外开销。
• 多线程并发时，每个核心的向量单元会被线程抢占，导致指令等待时间拉长。CPU利用率高是因为线程一直在等待向量单元资源，处于“忙等”状态，但有效处理的字节数并未提升，反而因资源竞争拖慢了整体吞吐量。
  另外，SIMD版本代码通常占用更多寄存器，会增大上下文切换的开销，进一步恶化并发性能。

二、编译器生成SIMD指令的原因 #

Rust在-O2或-O3优化级别下默认启用自动向量化，编译器的向量化模块会尝试对循环结构进行向量化，哪怕场景并不适配：

• 你的read_var是循环结构，编译器会尝试将其转换为向量操作，忽略了varint依赖动态终止条件（每个字节的最高位）的特性。
• 编译器可能误判了该循环的可向量化价值，或者为了覆盖固定长度varint的极端场景，强行生成SIMD代码，却没考虑到动态长度带来的额外开销。

三、针对单个函数禁用SIMD的方法 #

可以通过以下几种方式精准禁用单个函数的SIMD优化：

1. 使用target_feature属性：配合unsafe块禁用特定向量指令集，比如针对x86_64架构：

#[target_feature(disable = "avx,sse,sse2")]
unsafe fn read_var(&mut self, b: &[u8]) -> u64 {
    // 函数实现
}

注意：修改目标特性可能引入未定义行为，需要确保代码不依赖被禁用的指令。

2. 强制优化优先级为代码尺寸：使用#[optimize(size)]属性，让编译器优先生成紧凑代码，自动禁用大部分自动向量化：

#[optimize(size)]
fn read_var(&mut self, b: &[u8]) -> u64 {
    // 函数实现
}

3. 编译选项精准控制：在Cargo.toml的profile配置中，为特定函数所在的包添加编译参数，比如：

[profile.release.package.your_crate_name]
rustflags = ["-C", "target-feature=-avx,-sse"]

如果只想针对单个函数，也可以结合#[cfg_attr]属性指定编译参数。

内容的提问来源于stack exchange，提问作者user607722