MPI_Put多进程段错误及排序异常问题排查求助

问题描述 #

我正在学习MPI单边通信并编写相关程序：每个进程持有大小可变的键值对（key-value）数组，程序需实现排序，使进程0获得所有key为0的值，进程1获得所有key为1的值，以此类推至进程P-1。

我的实现步骤如下：

• 遍历本地数组，统计各key对应的值数量，存入local_counts数组；
• 调用MPI_Allreduce得到全局计数数组global_counts；
• 调用MPI_Exscan计算前缀和，确定每个值在目标进程RMA窗口中的放置索引；
• 创建对应大小的窗口缓冲区与RMA窗口，通过MPI_Win_fence划分通信epoch，在epoch内使用MPI_Put将值放入目标进程的对应位置。

单进程测试时程序运行正常，但多进程运行时出现问题，自动评分器仅提示排序错误（可能为段错误或结果不正确），恳请协助排查问题。

程序代码 #

sort.cpp #

#include <cmath>
#include <algorithm>
#include <cstring>
#include <iostream>
#include <mpi.h>

#include "helper.h"
#include "sort.h"

void my_sort(int N, item *myItems, int *nOut, item **myResult)
{
    int rank, nprocs;
    MPI_Comm_size(MPI_COMM_WORLD, &nprocs);
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);

    int local_counts[nprocs] = {0};
    int global_counts[nprocs] = {0};
    int prefix_global_sum[nprocs] = {0};

    for (int i = 0; i < N; i++)
    {
        int key = myItems[i].key;
        local_counts[key]++;
    }

    fprintf(stdout, "Initial array: ");
    for (int i = 0; i < N; i++)
    {
        fprintf(stdout, "%d ", myItems[i].value);
    }
    fprintf(stdout, "\n");

    MPI_Allreduce(local_counts, global_counts, nprocs, MPI_INT, MPI_SUM, MPI_COMM_WORLD);

    MPI_Exscan(local_counts, prefix_global_sum, nprocs, MPI_INT, MPI_SUM, MPI_COMM_WORLD);
    if (rank == 0)
    {
        for (int i = 0; i < nprocs; i++)
        {
            prefix_global_sum[i] = 0;
        }
    }

    *nOut = global_counts[rank]; 
    item *window_buffer[*nOut] = {0};
    MPI_Win window;
    *myResult = (item *)malloc(*nOut * sizeof(item));
    MPI_Win_create((*myResult), (MPI_Aint)*nOut * sizeof(item), sizeof(item), MPI_INFO_NULL,    MPI_COMM_WORLD, &window);

    MPI_Win_fence(0, window);

    for (int i = 0; i < N; i++)
    {
        val* value = &myItems[i].value;
        int target_rank = myItems[i].key;
        int target_offset = prefix_global_sum[target_rank];
        MPI_Put(value, sizeof(item), MPI_BYTE, target_rank, target_offset, sizeof(item), MPI_BYTE, window);
        prefix_global_sum[target_rank] += 1;
    }

    MPI_Win_fence(0, window);

    MPI_Win_free(&window);
}

sort.h #

#ifndef SORT_H
#define SORT_H

#include <cmath>
#include <algorithm>
#include <cstring>
#include <iostream> // for debugging, if you like
#include <mpi.h>
#include "helper.h"

void my_sort(int N, item *myItems, int *nOut, item **myResult);

#endif

关键问题点及修正建议 #

1. MPI_Exscan使用逻辑错误 #

当前调用MPI_Exscan(local_counts, prefix_global_sum, nprocs, MPI_INT, MPI_SUM, MPI_COMM_WORLD)是对整个计数数组做进程间逐元素前缀和，这不符合需求。我们需要的是：对每个目标rank r，计算所有rank小于当前rank的进程中，key=r的元素总数之和，作为当前进程发送到r的元素起始偏移。

修正方式：

• 针对每个key r，收集所有进程的local_counts[r]到一个数组，再计算该数组的前缀和；
• 或对每个r单独调用MPI_Scan，得到当前进程之前所有进程的local_counts[r]总和。

2. MPI_Put参数错误 #

• 发送数据地址为&myItems[i].value（仅value字段），但指定发送长度为sizeof(item)，这会导致从value地址开始读取超出item结构的内存，引发数据错误或段错误；
• 窗口创建时位移单元为sizeof(item)，目标偏移target_offset是元素索引，这部分逻辑正确，但需匹配发送的数据长度和类型。

修正方式：

• 如果要发送完整的item结构，发送地址改为&myItems[i]，长度改为1，并注册自定义MPI类型MPI_ITEM；
• 如果仅需发送value字段，需将myResult改为val*类型，同时调整窗口创建的参数（缓冲区大小、位移单元），并修改MPI_Put的发送/接收长度为sizeof(val)。

3. 未检查key合法性 #

代码中未验证myItems[i].key是否在0~nprocs-1范围内，若存在非法key，会导致local_counts[key]越界访问，引发段错误。

修正方式：
遍历本地数组时添加判断：

if (key < 0 || key >= nprocs) {
    fprintf(stderr, "Rank %d: Invalid key %d\n", rank, key);
    MPI_Abort(MPI_COMM_WORLD, 1);
}

4. prefix_global_sum初始化错误 #

仅对rank=0将prefix_global_sum置0，无法保证其他rank的偏移计算正确。正确的偏移需要基于每个key的跨进程前缀和，而非当前的进程间数组前缀和。

5. 冗余变量 #

item *window_buffer[*nOut] = {0};是未使用的变长指针数组，存在初始化风险，直接删除即可。

内容的提问来源于stack exchange，提问作者coffeeanddonuts