如何使用MPI推断同一节点上运行的工作进程数量

你可以根据自己的MPI版本和使用场景选择以下任意一种方案实现：

• 标准MPI接口实现（首选）
  仅依赖MPI 3.1及以上版本的标准接口，无需额外依赖，兼容所有主流MPI实现（OpenMPI 1.7+、MPICH 3.0+、Intel MPI 5.0+）：
  核心思路是通过MPI_Comm_split_type按共享内存域（即同一物理节点）拆分COMM_WORLD，得到同节点进程组成的通信子，读取该通信子的大小即为当前节点的进程总数，示例代码：

  MPI_Comm node_comm;
  int node_proc_count;
  // 按共享内存域拆分通信子，同一节点进程归入同一个node_comm
  MPI_Comm_split_type(COMM_WORLD, MPI_COMM_TYPE_SHARED, 0, MPI_INFO_NULL, &node_comm);
  // 读取node_comm的大小，即当前节点部署的工作进程总数
  MPI_Comm_size(node_comm, &node_proc_count);
  // 额外调用MPI_Comm_rank(node_comm, &local_rank)可获取进程的节点内本地rank
  // 用完释放通信子避免资源泄漏
  MPI_Comm_free(&node_comm);
  

• 兼容旧版MPI的主机名统计方案
  若使用的MPI版本低于3.1不支持上述接口，可以通过主机名聚合统计：
  1. 每个进程调用gethostname()获取当前节点的主机名
  2. 调用MPI_Allgather收集所有进程的主机名到每个进程本地
  3. 遍历统计和当前进程主机名一致的条目数量，即为当前节点的进程总数
     该方法的缺点是进程规模较大时，全收集操作的开销会高于第一种方案。
• 基于PMI的实现方案
  如果你已经在使用PMI接口，可以先通过PMI提供的PMI_Get_node_id类接口获取每个进程对应的节点ID，再通过全局聚合统计每个节点ID对应的进程数量即可。该方法依赖你使用的PMI具体实现，可移植性低于标准MPI接口。

内容的提问来源于stack exchange，提问作者Carbon