如何通过NVBLAS便捷链接CBLAS实现BLAS运算GPU加速

完全不需要修改现有CBLAS调用的业务代码，也不用替换原有cblas.h头文件、调整cblas_dgemm/cblas_dtrsm的传参逻辑，靠编译链接和运行时配置就能自动把符合条件的运算调度到GPU执行，具体操作如下：

• 代码层面完全不动：删掉你之前加的nvblas.h引入，保留原有所有CBLAS的头文件引用、函数调用写法，不需要做任何接口适配。
• 调整编译时的链接顺序：把NVBLAS库放在你原本使用的CPU BLAS库（OpenBLAS、MKL、BLAS参考实现都可以）的前面，让链接器优先匹配NVBLAS导出的标准CBLAS符号。
  以g++编译为例，链接命令参考：

  g++ your_app.cpp -o your_app -lnvblas -lopenblas -lpthread -lm
  

  这个配置下，NVBLAS会自动拦截所有标准CBLAS接口调用：对于dgemm、dtrsm这类它支持的BLAS3级运算，只要矩阵规模达到设置的阈值，就会自动调度到GPU执行；对于NVBLAS不支持的BLAS1/2级运算、或者规模太小不值得走GPU的运算，会自动fallback到后面链接的CPU BLAS库执行，不需要代码里写任何分支判断。
• 运行前配置几个环境变量即可控制行为，不需要改代码：

  # 指定要用的GPU设备ID，多卡可以填逗号分隔的列表
  export NVBLAS_GPU_LIST=0
  # 设置dgemm、dtrsm触发GPU加速的最小矩阵维度，小于这个值自动跑CPU，避免PCIe数据传输开销大于加速收益
  export NVBLAS_DGEMM_M_MIN=1024
  export NVBLAS_DTRSM_M_MIN=1024
  # 显式指定CPU fallback用的BLAS动态库路径，避免运行时找不到符号报错
  export NVBLAS_CPU_BLAS_LIB=/usr/lib/x86_64-linux-gnu/libopenblas.so
  

避坑提示：不要在代码里硬编码调用nvblas_*开头的专属接口，那样反而会丢失自动fallback能力，还需要修改现有调用逻辑。只要链接顺序配置正确，原有标准CBLAS接口的调用性能和直接调用NVBLAS原生接口没有差异。

• 如果用CMake管理项目，同样只需要修改链接配置：在target_link_libraries中把nvblas放到原有BLAS链接项的最前面即可，不需要改动任何源码文件。

内容的提问来源于stack exchange，提问作者Aznaveh