You need to enable JavaScript to run this app. Rust基于AVX2实现i16高效SIMD点积用于FIR滤波器二维卷积的实现疑问
优惠活动
大模型
产品
解决方案
定价
更多

Rust基于AVX2实现i16高效SIMD点积用于FIR滤波器二维卷积的实现疑问

AVX2下i16类型点积(适配FIR二维卷积)实现说明

你现有代码的核心问题

你目前的拆分逻辑方向没问题,但存在两个会直接导致计算错误的硬伤:

  • 直接用i16宽度做累加完全不满足数值范围要求:i16的逐元素乘积最大可达约1e9,远高于i16能承载的最大值32767,必然会发生整数溢出
  • 拆分256位到128位后直接做i16加法,没有把乘积结果扩展到i32宽度,哪怕逻辑分支正确,真实卷积场景下结果也会完全错误

MADD系列指令的使用逻辑

_mm256_madd_epi16是为这类乘累加场景专门设计的指令,它的执行逻辑非常固定:

对两个输入寄存器里的相邻i16元素两两配对相乘,每个乘法得到的32位中间结果,会直接和相邻配对的乘积做加法,最终输出一整组i32类型的累加值。
举个例子:输入a的i16序列为[a0,a1,a2,a3,...],输入b的i16序列为[b0,b1,b2,b3,...],最终输出的i32序列为[a0*b0 + a1*b1, a2*b2 + a3*b3, ...]
根本不需要你手动做逐元素乘法、再拆位扩宽,直接一步完成乘法+相邻对求和。


完整实现步骤

用MADD实现的标准流程

  1. 把两个输入切片的16个连续i16值加载到256位寄存器中
  2. 调用_mm256_madd_epi16完成逐对乘加,得到包含8个i32值的256位结果
  3. 拆分归约:
    • 提取256位寄存器的高128位、低128位,两个128位寄存器直接做i32加法,把8个i32压缩成4个i32
    • 对128位寄存器里的4个i32做移位+加法,逐步把4个值压缩成1个最终的点积结果

不用MADD的逐元素乘实现思路

如果不想依赖MADD的配对求和逻辑,必须自己处理溢出问题:

  • 逐元素乘完i16后,分别取出乘积的高16位、低16位
  • 把两个16位结果符号扩展成i32宽度,再做累加,禁止直接在i16宽度下累加乘积
  • 后续的归约步骤和MADD方案完全一致

可直接运行的修正代码

#[cfg(target_arch = "x86_64")]
use std::arch::x86_64::*;

#[target_feature(enable = "avx2")]
unsafe fn dot_product(a: &[i16], b: &[i16]) -> i32 {
    // 非对齐加载16个i16到256位寄存器
    let a_vec = _mm256_loadu_si256(a.as_ptr() as *const __m256i);
    let b_vec = _mm256_loadu_si256(b.as_ptr() as *const __m256i);
    // 直接完成相邻对i16乘加,输出i32中间结果
    let paired_prod = _mm256_madd_epi16(a_vec, b_vec);
    // 拆分256位为两个128位,做i32加法
    let lo_128 = _mm256_castsi256_si128(paired_prod);
    let hi_128 = _mm256_extracti128_si256(paired_prod, 1);
    let sum_128 = _mm_add_epi32(lo_128, hi_128);
    // 对128位内的4个i32做水平归约
    let shuf_high64 = _mm_unpackhi_epi64(sum_128, sum_128);
    let sum_after64 = _mm_add_epi32(sum_128, shuf_high64);
    let shuf_high32 = _mm_shuffle_epi32(sum_after64, _MM_SHUFFLE(2, 3, 0, 1));
    let sum_after32 = _mm_add_epi32(sum_after64, shuf_high32);
    // 从寄存器中提取最终i32结果
    _mm_cvtsi128_si32(sum_after32)
}

fn main() {
    let a = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15];
    let b = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15];
    let res = unsafe { dot_product(&a, &b) };
    // 预期计算结果为 0²+1²+...+15² = 1240
    assert_eq!(res, 1240);
    println!("点积计算结果: {}", res);
}

关于packed_simd的替代说明

目前稳定版Rust不需要依赖外部packed_simd库,标准库std::arch模块已经覆盖了AVX2下所有i16卷积、点积场景需要的intrinsics,完全能满足FIR二维卷积的性能要求。如果输入长度不是16的整数倍,只需要在主循环结束后单独处理剩余的零散元素即可。

内容的提问来源于stack exchange,提问作者user1685095

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.11.06 05:24:02