CUDA中thread_block对象传递：按引用还是按值更合适？

1. 哪一种是“正确”方式？ #

两种方式在部分测试场景下都能运行，但按引用传递（如const thread_block&）是符合CUDA官方推荐的更安全的“正确”方式；按值传递存在潜在的未定义行为风险，属于官方明确不鼓励的操作。

2. 两种传递方式的核心差异 #

• 拷贝构造行为：按值传递会触发thread_group（包括thread_block）的拷贝构造，而CUDA编程指南明确指出“不鼓励拷贝构造它们”。这类组句柄的创建是集合操作——必须所有线程共同参与，拷贝构造本质上相当于重新生成组句柄，若操作时存在线程未参与（比如在条件分支中调用函数），会直接导致死锁或数据损坏。
• 句柄有效性：按引用传递直接复用提前初始化好的组句柄（符合官方“尽可能早创建句柄、避免分支后创建”的建议），不存在重新构造的风险；按值传递的拷贝句柄则依赖函数调用时所有线程同步参与，一旦出现分支场景就会失效。
• 隐性开销：虽然常规测试中性能差异不明显，但引用传递避免了拷贝构造的隐性开销，值传递的拷贝操作在复杂内核或特定架构下可能带来不可预见的性能损耗。

3. 各自适用场景 #

• 按引用传递：所有生产环境下的CUDA内核开发，尤其是涉及线程同步、需要保证集合操作安全性的场景。这是官方文档示例采用的方式，能最大程度规避死锁、数据损坏等风险。
• 按值传递：仅适合简单的测试代码，且必须确保所有线程都会进入该函数调用（无分支逻辑）。但即便如此，也不建议在正式代码中使用，因为后续代码迭代引入分支时，极易触发未定义行为。

补充说明 #

你看到CUDA开发者博客中出现值传递的示例，属于非官方推荐的写法，其权威性低于CUDA编程指南的明确说明。测试中未发现问题，是因为测试场景未涉及线程分支，所有线程都参与了拷贝构造，但这种场景不具有普遍性，一旦代码逻辑调整，风险会立即显现。

内容的提问来源于stack exchange，提问作者John Mansell