CUDA cuMemcpy3DAsync函数的参数结构体是否需持续存活？

我们来看CUDA驱动API函数：

CUresult cuMemcpy3DAsync(const CUDA_MEMCPY3D* pCopy, CUstream hStream);

你可以在cuMemcpy3DAsync函数返回后立即销毁或重用这个CUDA_MEMCPY3D结构体，不需要等到流同步完成。

原因很明确：CUDA的异步函数在调用时就会读取并复制结构体里的所有必要参数到驱动内部的队列条目当中，后续执行这个异步拷贝操作时，完全不依赖你传入的原始结构体指针。这类异步API遵循"值捕获"的设计逻辑，驱动会在操作入队阶段完成所有参数的快照，不会保留对用户提供的结构体的引用。

这也符合CUDA异步API的通用规范——所有异步启动的操作（比如核函数启动cuLaunchKernel、普通异步拷贝cuMemcpyAsync等）都会在调用时完成参数的捕获，用户无需维持参数对象的生命周期直到操作执行完毕。

内容的提问来源于stack exchange，提问作者einpoklum