矩阵乘法：Eigen与ViennaCL的GPU与CPU性能差异排查

在第八代Intel Core i5（搭配集成GPU）上测试1500x1500浮点矩阵乘法时，ViennaCL（GPU）耗时9.81秒，Eigen（CPU）仅0.69秒，核心原因可从硬件特性、代码实现、库配置三方面分析，具体如下：

一、核心原因分析 #

1. 集成GPU的硬件局限性 #

第八代Intel Core i5的集成GPU（如UHD 620）存在先天短板：

• 无独立显存：共享系统内存，内存带宽远低于独立GPU，数据传输延迟高；
• 计算单元数量少：仅24个执行单元（EU），并行计算能力有限，小矩阵任务难以掩盖调度与传输开销；
• CPU缓存优势：Eigen充分利用CPU的L1/L2/L3缓存体系，对矩阵乘法做了BLAS/OpenMP级别的优化，在中小规模计算中效率远超依赖共享内存的集成GPU。

2. 代码中的数据传输开销 #

测试代码存在频繁隐式内存拷贝问题：

• 直接对viennacl::matrix做逐元素赋值/读取，每次matrix1_viennacl(i,j)都会触发主机到设备（或设备到主机）的零散拷贝，累计开销极大；
• 计算完成后逐元素写入文件，再次触发设备到主机的零散拷贝，进一步拉长耗时。

3. ViennaCL的配置与后端问题 #

• 未显式指定OpenCL后端，ViennaCL可能 fallback 到CPU后端运行，此时性能自然不如专门优化的Eigen；
• Premake配置未链接OpenCL库，也未启用针对当前架构的编译优化，导致ViennaCL无法发挥GPU性能。

4. 矩阵规模不匹配GPU并行特性 #

1500x1500的矩阵计算量对于集成GPU来说过小，GPU的并行优势需要足够大的计算任务（如3000x3000以上矩阵）才能掩盖数据传输和调度的固定开销，中小规模下CPU的缓存优化更具优势。

二、优化方案 #

1. 批量传输数据，避免零散拷贝 #

先在主机端用Eigen初始化数据，再批量拷贝到ViennaCL矩阵，计算完成后批量拷贝回主机：

// 主机端初始化Eigen矩阵
Eigen::MatrixXf matrix1_eigen(size, size);
Eigen::MatrixXf matrix2_eigen(size, size);
matrix1_eigen.setRandom();
matrix2_eigen.setRandom();

// 批量拷贝到GPU
viennacl::matrix<float> matrix1_viennacl(size, size);
viennacl::matrix<float> matrix2_viennacl(size, size);
viennacl::copy(matrix1_eigen, matrix1_viennacl);
viennacl::copy(matrix2_eigen, matrix2_viennacl);

// GPU计算
auto start_viennacl = std::chrono::steady_clock::now();
viennacl::matrix<float> result_viennacl = viennacl::linalg::prod(matrix1_viennacl, matrix2_viennacl);
auto end_viennacl = std::chrono::steady_clock::now();

// 批量拷贝回主机再写入文件
Eigen::MatrixXf result_viennacl_host(size, size);
viennacl::copy(result_viennacl, result_viennacl_host);
std::ofstream file1(fileName1);
for (int i = 0; i < size; ++i) {
    for (int j = 0; j < size; ++j) {
        file1 << result_viennacl_host(i, j) << std::endl;
    }
}

2. 强制启用OpenCL后端并链接库 #

• 在代码开头添加宏定义：

  #define VIENNACL_WITH_OPENCL
  

• 修改Premake配置，链接OpenCL库并添加架构优化：

  project "Project"
      -- ... 原有配置
      links { "OpenCL" } -- 添加OpenCL链接
  
      filter "configurations:Release"
          symbols "Off"
          optimize "Full" -- 对应GCC -O3
          buildoptions { "-march=native", "-ffast-math" } -- 针对当前架构优化
  

3. 测试更大规模的矩阵 #

将矩阵大小调整为3000x3000或4000x4000，此时GPU的并行计算优势会逐渐显现，数据传输开销占比会降低。

4. 验证ViennaCL运行设备 #

添加设备查询代码，确认ViennaCL确实在GPU上运行：

#include <viennacl/ocl/device.hpp>
#include <viennacl/ocl/platform.hpp>

// 在main函数开头添加
for (size_t p = 0; p < viennacl::ocl::platforms().size(); ++p) {
    viennacl::ocl::platform pf = viennacl::ocl::platforms()[p];
    std::vector<viennacl::ocl::device> devs = pf.devices();
    for (size_t d = 0; d < devs.size(); ++d) {
        std::cout << "Platform " << p << ", Device " << d << ": " << devs[d].name() << std::endl;
        std::cout << "  Device Type: " << (devs[d].type() & viennacl::ocl::device::TYPE_GPU ? "GPU" : "CPU") << std::endl;
    }
}

若输出设备类型为GPU，说明配置生效。

内容的提问来源于stack exchange，提问作者Francisco Ossian