基于AVX优化一维快速卷积代码的性能提升求助

问题背景 #

在RedHat Linux系统、Intel x86平台上，尝试优化以下一维卷积标量代码：

void conv(int n, double* output, const double* input, double p1, double p2, double p3) {
    for (int i = 1; i + 1 < n; ++i) {
        output[i] = input[i - 1] * p1 + input[i] * p2 + input[i + 1] * p3;
    }
}

手动实现AVX版本后，Callgrind显示指令数显著减少，但实际运行性能提升不明显；尝试AVX512后性能反而下降，数据规模n约为300。

优化建议 #

1. 正视小数据量的向量化开销 #

n=300属于小数据规模，手动AVX实现的寄存器初始化、循环分支判断等开销，会抵消指令数减少带来的收益。这种场景下，编译器自动向量化可能比手动实现更高效，建议优先尝试编译器优化选项。

2. 优化内存对齐 #

当前代码使用_mm256_loadu_pd/_mm256_storeu_pd处理非对齐内存，这类指令比对齐版本（_mm256_load_pd/_mm256_store_pd）延迟更高：

• 分配内存时用posix_memalign保证32字节（256位）对齐；
• 或用__attribute__((aligned(32)))修饰数组变量；
• 替换为对齐加载存储指令后，可降低内存访问延迟。

3. 避免AVX512在小数据场景的滥用 #

AVX512性能下降的核心原因：

• 部分Intel CPU启用AVX512时会降频控功耗；
• 小数据量下，AVX512的初始化、数据搬运等开销占比过高，无法发挥带宽优势。

4. 配合编译器高级优化选项 #

保留原标量代码，开启以下编译选项，让编译器自动生成最优向量化代码：

-O3 -mavx2 -mfma -ffast-math

• -O3：开启全级别优化；
• -mavx2：启用AVX2指令集；
• -mfma：启用融合乘加（FMA）指令，减少指令数并提升流水线效率；
• -ffast-math：允许编译器进行数学相关的激进优化，适合精度要求不极端的场景。

5. 优化循环结构与剩余元素处理 #

调整向量化循环的边界判断，减少分支开销；同时简化剩余元素的处理逻辑：

// 向量化循环边界调整为确保输出有足够空间
for (; i + 4 <= n - 1; i += 4) { ... }
// 剩余元素直接用原标量逻辑覆盖所有未处理项
for (; i + 1 < n; ++i) { ... }

6. 使用FMA指令合并乘加操作 #

将原有的“乘+加”拆分指令，替换为FMA融合乘加指令（_mm256_fmadd_pd），减少指令总数并提升CPU流水线利用率：

__m256d acc = _mm256_fmadd_pd(in0, v1, _mm256_fmadd_pd(in1, v2, _mm256_mul_pd(in2, v3)));

优化后的AVX示例代码 #

#include <immintrin.h>
#include <stdlib.h>

void conv(int n, double* output, const double* input, double p1, double p2, double p3) {
    if (n <= 2) return; // 直接处理无有效计算的边界情况

    const __m256d v1 = _mm256_set1_pd(p1); 
    const __m256d v2 = _mm256_set1_pd(p2); 
    const __m256d v3 = _mm256_set1_pd(p3); 

    int i = 0;
    // 处理对齐的批量数据（需保证input/output为32字节对齐）
    for (; i + 4 <= n - 1; i += 4) {
        __m256d in0 = _mm256_load_pd(input + i);
        __m256d in1 = _mm256_load_pd(input + i + 1);
        __m256d in2 = _mm256_load_pd(input + i + 2);

        // 用FMA指令合并乘加操作
        __m256d acc = _mm256_fmadd_pd(in0, v1, _mm256_fmadd_pd(in1, v2, _mm256_mul_pd(in2, v3)));
        _mm256_store_pd(output + i + 1, acc);
    }

    // 处理剩余的单个元素
    for (; i + 1 < n; ++i) {
        output[i + 1] = input[i] * p1 + input[i + 1] * p2 + input[i + 2] * p3;
    }
}

内容的提问来源于stack exchange，提问作者JEK