为何CuPy将RAM数组转VRAM时创建副本？uint16兼容RTX4090吗？

首先明确：RTX 4090完全支持uint16类型，CUDA原生提供对该数据类型的支持，所以类型兼容性不是你遇到问题的原因。

核心问题：copy=False参数的误解 #

cupy.array(data, copy=False)中的copy=False仅对CuPy数组输入生效——此时会尝试返回共享数据的视图。但你的输入是cupyx.empty_pinned创建的numpy数组（即使是pinned内存），该参数无法实现你预期的“零拷贝到GPU”：

• cupy.array的默认行为是创建设备端（VRAM）数组，设备数组的数据必须存储在GPU内存中，因此无论是否指定copy=False，都需要将主机RAM中的数据拷贝到VRAM。

RAM占用翻倍的原因 #

执行第4行时，原有的pinned内存数组（存储在RAM）尚未被Python垃圾回收机制回收，同时CuPy在拷贝数据到VRAM的过程中，可能会临时占用主机内存（如拷贝缓冲区），或新创建的CuPy数组的主机端元数据被计入RAM占用，导致RAM占用暂时翻倍。当原numpy数组被垃圾回收后，RAM占用会自然回落。

优化方案 #

1. 手动释放原主机数组
   如果你想避免主机内存中同时存在两份数据，可以在创建CuPy数组后手动释放原pinned数组：

   data = cupyx.empty_pinned(shape, np.uint16)
   with open(path, 'rb') as f:
       f.readinto1(data)
   cupy_data = cupy.array(data)
   del data  # 手动释放pinned内存数组
   

2. 利用pinned内存加速拷贝
   无需手动指定copy=False，CuPy会自动识别pinned内存并使用更快的主机到设备拷贝路径（pinned内存的拷贝速度远快于普通内存）。

3. 零拷贝的GPU可访问主机数组（避免拷贝到VRAM）
   如果你的场景允许GPU直接访问主机内存（无需将数据移到VRAM），可以创建一个映射到pinned内存的CuPy数组，数据仍保留在RAM中：

   import cupy as cp
   from cupyx import empty_pinned
   
   data_pinned = empty_pinned(shape, np.uint16)
   with open(path, 'rb') as f:
       f.readinto1(data_pinned)
   # 创建GPU可直接访问的主机端数组（数据仍在RAM pinned内存）
   data_gpu_accessible = cp.ndarray(
       shape, 
       dtype=np.uint16, 
       memptr=cp.cuda.MemoryPointer(
           cp.cuda.UnownedMemory(data_pinned.ctypes.data, data_pinned.nbytes, data_pinned), 
           0
       )
   )
   

   注意：这种方式下GPU访问数据的延迟高于VRAM，适合不需要频繁GPU读写的大数组场景。

内容的提问来源于stack exchange，提问作者srcLegend