OpenCL中实现指定标量-向量乘法操作的最快方式问询

我有两个输入float4向量，分别为float4 A和float4 B，以及一个float4向量输出数组float4 C[4]。需要执行的操作如下：

C[0] += A.s0 * B
C[1] += A.s1 * B
C[2] += A.s2 * B
C[3] += A.s3 * B

请问是否有OpenCL内置函数可实现该操作，或有其他加速该操作的方法？

补充说明1：我已尝试使用内置mad()函数实现如下操作，但未获得性能提升：

C[0].s0 = mad(A.s0, B.s0, C[0].s0);
C[0].s1 = mad(A.s0, B.s1, C[0].s1);
C[0].s2 = mad(A.s0, B.s2, C[0].s2);
C[0].s3 = mad(A.s0, B.s3, C[0].s3);

首先，你要的这个操作本质是把A的每个分量分别广播为float4向量，再和B做乘法，最后与对应的C数组元素完成乘加（mad）运算。OpenCL里有不少内置函数和技巧能帮你充分利用SIMD并行性，比你之前的标量拆分写法高效得多：

1. 向量级mad+分量广播 #

你之前的写法把向量操作拆成了4个标量mad，编译器很难把它们合并成真正的向量指令，完全浪费了float4的并行计算能力。试试直接用向量级的mad，配合分量广播：

// 将A.s0广播为全分量都是A.s0的float4，再和B做乘加
C[0] = mad((float4)(A.s0), B, C[0]);
C[1] = mad((float4)(A.s1), B, C[1]);
C[2] = mad((float4)(A.s2), B, C[2]);
C[3] = mad((float4)(A.s3), B, C[3]);

这种写法会让编译器直接生成单条向量乘加指令，一次就能完成4个浮点运算，完美利用SIMD单元的并行性，性能肯定比标量拆分的写法好。

2. 额外性能优化技巧 #

除了向量级操作，还有几个细节能进一步提升性能：

• 确保C数组是16字节对齐的（可以用__attribute__((aligned(16))) float4 C[4];修饰），内存访问效率会更高
• 如果C是全局内存变量，尽量先把它读到私有寄存器里做运算，最后再写回全局内存，减少全局内存的读写次数
• 若你的硬件支持更宽的向量（比如float16），还可以把整个操作打包成更大的向量运算，但基础float4环境下上面的写法已经足够高效

3. 为什么你之前的mad写法没性能提升？ #

因为你把原本可以并行的向量操作拆成了4个独立的标量运算，编译器无法将它们合并为向量指令，相当于用SIMD单元做了标量计算，完全没发挥出硬件的并行优势。换成向量级mad后，才能真正利用float4的并行计算能力。

内容的提问来源于stack exchange，提问作者Avis