MPI.COMM_WORLD.Gather的sendcount/recvcount长度规则及Java MPJ实现问题
MPJ Express MPI开发问题解答
1. Gather参数关联进程数的原因
MPI的Gather为集合通信原语,参数规则固定:
- 所有参与通信的进程,各自向根进程发送
sendcount个指定类型的元素 - 根进程从每个参与进程处,各接收
recvcount个指定类型的元素,总接收数据量为recvcount * 进程数
如果直接传入全数组长度作为count参数,相当于要求每个进程都发送完整的二维数组,根进程所需的接收缓冲区总大小会达到全数组长度 * 进程数,远大于你实际申请的缓冲区容量,自然触发数组越界。
你当前的业务逻辑是将全量数组拆分到多进程并行计算,每个进程仅需发送自己负责的分片数据,分片大小为总长度/进程数,因此count参数需要和进程数关联。
2. 多进程无法正常退出的排查方案
- 确认所有进程都执行了全部集合通信调用:
Bcast、Gather属于全局集合通信,必须被MPI.COMM_WORLD内的所有进程调用,只要有一个进程未走到对应通信代码,其余进程会永久阻塞在通信调用处,无法执行到MPI.Finalize - 确认所有进程都执行了
MPI.Finalize:不能仅在0号进程的分支中调用该方法,所有进程的代码路径都必须执行到MPI.Finalize - 排查非0进程的执行逻辑:确认非0进程在计算完成后没有陷入死循环,能够正常走到通信和Finalize逻辑
3. Gather数据不一致的解决方法
使用MPI.OBJECT传输是数据不一致的核心原因:
MPI.OBJECT依赖Java序列化机制传输对象,传输过程会生成新的对象实例,容易出现类型匹配、数据对齐问题,性能也远低于基本类型传输- 之前直接使用float类型抛出转换异常,是因为MPJ的基本类型传输仅支持一维数组,只需将二维float数组摊平为一维数组,即可使用
MPI.FLOAT类型正常传输
修正代码参考
// 二维数组摊平为一维,适配MPJ基本类型传输要求 float[] flatClusters = new float[10 * 5]; for (int i = 0; i < 10; i++) { System.arraycopy(clusters[i], 0, flatClusters, i * 5, 5); } // 广播全量数据 MPI.COMM_WORLD.Bcast(flatClusters, 0, 50, MPI.FLOAT, 0); // 本地计算逻辑... 每个进程处理对应分片数据 int perProcElem = (10 / size) * 5; // 每个进程传输的float元素总数 float[] clusterGet = null; if (me == 0) { clusterGet = new float[perProcElem * size]; } // 收集各进程结果 MPI.COMM_WORLD.Gather(flatClusters, myShardOffset * 5, perProcElem, MPI.FLOAT, clusterGet, 0, perProcElem, MPI.FLOAT, 0); // 0号进程将一维结果恢复为二维数组后处理即可 if (me == 0) { // 按偏移读取一维数组内容,恢复为二维结构即可 }
内容的提问来源于stack exchange,提问作者gašper Sever
相关产品推荐
相关产品推荐

