如何用Adreno GPU运行PyTorch/TensorFlow深度学习？遇OpenCL支持报错求助

一、解决PyTorch OpenCL支持缺失的问题 #

你遇到的RuntimeError: PyTorch is not linked with support for opencl devices，是因为官方预编译的PyTorch包默认未包含OpenCL后端支持。要让PyTorch适配Adreno GPU，可通过以下两种方式处理：

1. 编译带OpenCL支持的PyTorch #

• 先配置Adreno OpenCL ML SDK的环境：
  • 设置OPENCL_INCLUDE_DIR指向SDK的include目录
  • 设置OPENCL_LIBRARY指向SDK的lib目录下的OpenCL库文件
• 从源码编译PyTorch并启用OpenCL：

  git clone --recursive https://github.com/pytorch/pytorch
  cd pytorch
  export USE_OPENCL=1
  pip install -e .
  

2. 使用社区适配分支 #

部分社区项目针对Adreno等移动GPU做了PyTorch适配，可选择对应分支编译或下载预编译包，注意确认版本兼容性。

二、Adreno OpenCL ML SDK的基础使用 #

先完成SDK的环境配置，再通过pyopencl调用SDK能力实现计算（替代直接调用PyTorch的OpenCL设备）：

import pyopencl as cl
import numpy as np

# 初始化OpenCL环境，定位Adreno设备
platforms = cl.get_platforms()
adreno_platform = next(p for p in platforms if "Adreno" in p.name)
devices = adreno_platform.get_devices()
ctx = cl.Context(devices)
queue = cl.CommandQueue(ctx)

# 准备数据并传输到Adreno GPU
a_np = np.array([1, 2, 3], dtype=np.float32)
b_np = np.array([4, 5, 6], dtype=np.float32)
mf = cl.mem_flags
a_gpu = cl.Buffer(ctx, mf.READ_ONLY | mf.COPY_HOST_PTR, hostbuf=a_np)
b_gpu = cl.Buffer(ctx, mf.READ_ONLY | mf.COPY_HOST_PTR, hostbuf=b_np)
c_gpu = cl.Buffer(ctx, mf.WRITE_ONLY, a_np.nbytes)

# 编写Adreno适配的OpenCL计算内核
kernel_code = """
__kernel void add(__global const float* a, __global const float* b, __global float* c) {
    int idx = get_global_id(0);
    c[idx] = a[idx] + b[idx];
}
"""
prg = cl.Program(ctx, kernel_code).build()

# 执行计算并回读结果
prg.add(queue, a_np.shape, None, a_gpu, b_gpu, c_gpu)
c_np = np.empty_like(a_np)
cl.enqueue_copy(queue, c_np, c_gpu)
print(c_np)

三、TensorFlow适配Adreno GPU的方案 #

1. 使用TensorFlow Lite + GPU Delegate（推荐） #

这是针对移动/嵌入式GPU优化的轻量方案，无需编译完整TensorFlow：

import tensorflow as tf
import numpy as np

# 构建并转换为TFLite模型
model = tf.keras.Sequential([tf.keras.layers.Dense(10, input_shape=(3,))])
model.compile(optimizer='adam', loss='mse')

converter = tf.lite.TFLiteConverter.from_keras_model(model)
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS, tf.lite.OpsSet.SELECT_TF_OPS]
tflite_model = converter.convert()

# 加载模型并启用Adreno GPU delegate
delegate = tf.lite.experimental.load_delegate('libOpenCL.so', options={"gpu_precision_loss_allowed": False})
interpreter = tf.lite.Interpreter(model_content=tflite_model, experimental_delegates=[delegate])
interpreter.allocate_tensors()

# 运行推理
input_data = np.array([[1, 2, 3]], dtype=np.float32)
interpreter.set_tensor(interpreter.get_input_details()[0]['index'], input_data)
interpreter.invoke()
output_data = interpreter.get_tensor(interpreter.get_output_details()[0]['index'])
print(output_data)

2. 编译带OpenCL支持的完整TensorFlow #

若需使用完整TensorFlow功能，需在编译时启用OpenCL支持，编译前需配置好Adreno OpenCL SDK的环境变量，编译参数添加--config=opencl。

内容的提问来源于stack exchange，提问作者teddy lee