如何对两个wmma::accumulator片段执行元素级加法并将结果存储回a

要对两个wmma::fragment<wmma::accumulator, 16, 16, 16, half>类型的实例a和b执行元素级加法并将结果存回a，可以直接操作fragment的内部数据缓冲区，具体实现如下：

WMMA的accumulator类型fragment允许通过data()方法直接访问其底层的半精度数据数组，该规格的fragment包含16*16=256个半精度元素，我们只需遍历所有元素完成逐位加法即可：

// 遍历fragment的全部256个元素，执行元素级加法并将结果存回a
for (int i = 0; i < 256; ++i) {
    a.data()[i] += b.data()[i];
}

注意事项 #

• 确保a和b已经完成初始化（比如通过wmma::load_matrix_sync等操作填充了有效数据），未初始化的fragment数据是未定义的。
• 这里的加法是半精度运算，完全匹配fragment的half类型定义。

内容的提问来源于stack exchange，提问作者Elvir Crncevic