为何可通过NumPy模块在CUDA上操作CuPy NDArray？

你看到的这个现象，本质是CuPy实现了对NumPy函数的兼容拦截，实际执行运算的是CuPy而非NumPy，所以数据全程在CUDA设备上，不会转移到CPU。

具体实现逻辑 #

• CuPy的数组对象（cupy.ndarray）实现了和NumPy数组完全一致的接口，同时CuPy通过函数重载机制，让当你调用np.add这类NumPy函数时，如果传入的是CuPy数组，会自动转用CuPy对应的实现（比如cp.add）。
• 这种设计是CuPy为了降低用户迁移成本做的：你可以直接沿用熟悉的NumPy函数语法，但底层用的是CUDA加速的CuPy运算，结果自然还是cupy.ndarray，保留在原CUDA设备上。

验证示例 #

你可以对比直接调用cp.add和np.add的结果，二者完全等价：

import cupy as cp
import numpy as np

x = cp.array([[1, 2, 3], [4, 5, 6]])
y = cp.array([[1, 2, 3], [4, 5, 6]])

# 两种调用方式结果一致
z1 = np.add(x, y)
z2 = cp.add(x, y)

print(z1 == z2)  # 输出: array([[ True,  True,  True], [ True,  True,  True]])
print(type(z1), z1.device)  # <class 'cupy.ndarray'> <CUDA Device 0>
print(type(z2), z2.device)  # <class 'cupy.ndarray'> <CUDA Device 0>

关键结论 #

• 不是NumPy在处理CUDA数据，而是CuPy通过兼容机制“接管”了NumPy函数的调用，把运算转到了CUDA上执行。
• 只有当你把CuPy数组显式转换成NumPy数组（比如np.array(x)）时，数据才会从CUDA转移到CPU，变成numpy.ndarray。

内容的提问来源于stack exchange，提问作者jieyou zhao