如何使用Slurm的salloc命令运行混合MPI与OpenMP程序并指定CPU及线程数

要通过salloc在Slurm集群启动混合MPI+OpenMP程序，核心是匹配资源分配参数、设置OpenMP线程环境，以及绑定进程/线程到核心以优化性能。以下是具体操作：

1. 分配集群资源（salloc核心参数） #

首先用salloc申请符合混合并行需求的CPU资源：

salloc --ntasks=4 --cpus-per-task=8 --mem-per-cpu=2G --partition=your_partition

参数说明：

• --ntasks=4：指定启动4个MPI进程
• --cpus-per-task=8：每个MPI进程分配8个CPU核心，对应后续要设置的OpenMP线程数（总CPU数=4×8=32）
• --mem-per-cpu=2G：为每个核心分配2GB内存（根据程序实际需求调整）
• --partition=your_partition：替换为你有权限使用的集群分区名称

2. 配置OpenMP环境变量 #

进入salloc创建的交互式会话后，必须设置OpenMP线程参数，确保线程数与分配的核心数匹配：

export OMP_NUM_THREADS=8
export OMP_PLACES=cores
export OMP_PROC_BIND=close

变量说明：

• OMP_NUM_THREADS=8：强制每个MPI进程启动8个OpenMP线程，与--cpus-per-task值完全一致
• OMP_PLACES=cores：将线程绑定到物理核心，避免跨核心调度
• OMP_PROC_BIND=close：让线程就近绑定到MPI进程所在的核心，减少缓存失效开销

3. 启动混合并行程序 #

使用Slurm内置的srun（推荐）或MPI启动器（如mpirun）运行程序：

# 用srun（继承salloc的资源参数，也可显式指定确保匹配）
srun ./your_hybrid_program

# 或用OpenMPI的mpirun（需确保集群安装了OpenMPI）
mpirun -np 4 ./your_hybrid_program

4. 一键式执行（无需分步操作） #

如果想直接在一行完成资源分配、环境配置和程序运行，可将命令串联：

salloc --ntasks=4 --cpus-per-task=8 --partition=your_partition bash -c 'export OMP_NUM_THREADS=8; export OMP_PLACES=cores; export OMP_PROC_BIND=close; srun ./your_hybrid_program'

关键注意事项 #

• 总CPU数必须等于--ntasks × --cpus-per-task，Slurm会严格校验资源分配，不匹配会直接报错
• 若无需跨节点运行，可添加--nodes=1参数强制资源分配在单个节点，减少MPI进程间的网络通信开销
• 部分集群默认启用了线程绑定，可通过srun --cpu-bind=cores显式指定绑定策略，覆盖默认设置
• 若程序有大内存需求，可使用--mem=64G（为整个任务分配64GB内存）替代--mem-per-cpu，更灵活控制内存配额

内容的提问来源于stack exchange，提问作者CityOfHope