如何强制CuPy使用CPU运行？禁用GPU后触发CUDARuntimeError如何解决

首先明确核心前提：CuPy是专门为CUDA GPU运算设计的第三方库，本身没有内置CPU执行后端，不存在直接修改配置让CuPy原生运行在CPU上的方法。你之前设置CUDA_VISIBLE_DEVICES=-1的操作只是屏蔽了CuPy对GPU的访问权限，CuPy初始化时找不到可用CUDA设备就会直接抛出你遇到的运行时错误，无法实现需求。

推荐实现方案：运行时库别名替换 #

这是成本最低、兼容性最好的实现方式，也是CuPy官方推荐的CPU/GPU无缝切换写法：

1. 统一库别名声明，根据开关变量动态绑定实现库

import numpy as np
import cupy as cp

# 你自己的GPU禁用开关，可从环境变量、配置文件等读取
DISABLE_GPU = True

# 统一使用xp作为数组库调用别名
xp = np if DISABLE_GPU else cp

2. 原有业务代码中所有cp.xxx的调用统一替换为xp.xxx即可，无需修改其他逻辑。
3. 如果代码中用到了CUDA专属操作（比如设备数据传输、CUDA流绑定、GPU内存查询等），增加简单的运行时判断即可：

if xp.__name__ == "cupy":
    # 仅GPU场景执行的专属逻辑
    arr = xp.asarray(arr, device=0)
else:
    # CPU场景兼容逻辑
    arr = np.asarray(arr)

存量项目快速改造方案 #

如果你不想修改原有代码中所有的cp调用，可以直接对cp变量做赋值替换：

DISABLE_GPU = True
if DISABLE_GPU:
    import numpy as cp
else:
    import cupy as cp

后续原有所有cp.xxx的调用会自动对应到NumPy的实现，不需要额外修改业务代码。

内容的提问来源于stack exchange，提问作者Thomas Wagenaar