OpenACC矩阵乘法代码在V100与MI250上性能差异排查求助

性能差异核心原因排查方向 #

• 编译指令映射不匹配：Cray FTN对AMD平台的OpenACC vector指令支持存在兼容性问题，原vector(16)被强制降级为vector(1)，即便改为vector(32)，也未匹配MI250硬件的Wavefront宽度（64），导致向量执行单元利用率极低。
• 内存访问模式适配不足：MI250的CDNA2架构缓存层次、内存带宽调度逻辑与V100的Volta架构差异显著，默认矩阵布局未优化内存访问局部性，缓存命中率远低于V100平台。
• 编译优化未针对硬件：NVIDIA平台的nvfortran默认开启V100专属架构优化，而Cray FTN未指定MI250目标架构时，仅启用通用GPU优化，未充分利用CDNA2的计算资源。
• Runtime调度不充分：AMD平台OpenACC runtime可能未将任务映射到MI250的全部GCD（图形计算核心），仅单GCD运行时，计算资源利用率与V100全核心调度差距被放大。

具体优化建议 #

1. 适配AMD硬件的循环划分配置
   MI250的Wavefront宽度为64，需将vector循环维度设为vector(64)，同时明确gang/worker层级划分，示例代码：

!$acc parallel loop gang collapse(2)
do i = 1, n
  do j = 1, n
    !$acc loop worker independent
    do k = 1, n
      !$acc loop vector(64) independent
      c(i,j) = c(i,j) + a(i,k) * b(k,j)
    end do
  end do
end do

编译时添加-hacc=vector64，强制编译器生成64宽度的向量指令。

2. 内存访问局部性优化

• 对矩阵B进行转置，将列访问转为行访问，提升缓存命中率：计算前通过!$acc kernels copy(b, b_t)完成转置，计算时用b_t(j,k)替代b(k,j)。
• 添加显式缓存控制指令：!$acc cache(a(:,:), b_t(:,:))，将高频访问矩阵加载到L1/L2缓存。

3. 针对性编译选项配置
   使用以下编译选项针对MI250优化：

cray-ftn -O3 -hacc -target=gfx90a -hfp32 -hacc=noautopar -hacc=fastmath -o matmul_acc matmul.f90

其中-target=gfx90a指定MI250架构，-hfp32启用单精度计算（精度允许时），-hacc=fastmath开启快速数学优化。

4. Runtime调度优化
   设置环境变量：

export ACC_DEVICE_TYPE=gpu
export HSA_ENABLE_SDMA=1

启用MI250的SDMA直接内存访问引擎，同时用rocminfo确认GPU的GCD数量，确保OpenACC runtime调度到全部计算核心。

5. 调试日志重点分析
   提供CRAY_ACC_DEBUG=3生成的日志时，重点核对：

• 循环划分的实际gang/worker/vector维度是否符合预期
• 主机-设备数据传输的时间占比（排查不必要的拷贝）
• 编译器是否提示循环未优化、指令降级等告警

内容的提问来源于stack exchange，提问作者Ilkhom Abdurakhmanov