无法使用collapse的OpenMP嵌套for循环并行化实现咨询

问题1：嵌套并行的生效逻辑与配置 #

首先纠正一个常见误区：默认状态下内层parallel for被忽略，不是因为外层并行占满了可用线程，核心原因是OpenMP默认关闭了嵌套并行特性。

• OpenMP默认配置下，OMP_NESTED环境变量为false，此时如果线程已经处于活跃并行区域中，遇到新的parallel指令会自动退化，仅用当前线程串行执行该区域代码，和是否有空闲核心无关。
• 要实现两层循环并行，操作步骤如下：
  1. 先开启嵌套并行：可以在程序运行前设置环境变量 OMP_NESTED=true，或者在代码开头调用 omp_set_nested(1) 开启该特性。
  2. 给内外层parallel for分别通过num_threads参数指定线程数，比如你的示例代码外层迭代数为3，可以给外层指定num_threads(3)，内层迭代数为6，可以指定num_threads(2)，总线程数控制在物理核心数附近即可，避免过多上下文切换带来性能损耗。

问题2：非完美嵌套循环的并行化方案 #

改写后代码是否支持collapse指令 #

改写后的代码是支持collapse指令的。你拆分初始化操作后，用于计算的两层循环已经符合完美嵌套的要求：循环之间无其他语句、循环控制变量仅在循环头部修改，直接给计算部分的循环加#pragma omp parallel for collapse(2)即可折叠两层迭代空间实现并行。另外拆分出来的y[i]初始化循环本身没有数据依赖，也可以单独加#pragma omp parallel for做并行优化。

非完美嵌套循环的其他并行化方案 #

如果遇到不方便拆分的非完美嵌套循环，还可以用以下方案：

• 优先并行外层循环：直接给最外层循环加#pragma omp parallel for即可，该场景下外层每个i的迭代完全独立（包括初始化y[i]和内层累加操作），没有数据依赖，并行粒度大、开销低，绝大多数场景下性能表现最优。
• 并行内层循环：如果外层迭代数极小、内层迭代数极大，可以选择仅并行内层循环，此时需要给内层循环加reduction(+:y[i])保证累加操作的线程安全，注意该方案每次进入内层并行都会有线程创建开销，仅适合特殊场景使用。
• 任务并行：如果循环结构更复杂（比如嵌套内有分支、迭代数不规则），可以使用OpenMP的task指令，在最外层的并行区域中为每个i的迭代生成独立任务，由运行时调度执行。

内容的提问来源于stack exchange，提问作者Pravin Poudel