无sudo权限下安装mpi4py解决DeepSpeed报错的替代方案

1. 从源码编译OpenMPI并本地安装 #

无需sudo权限，将OpenMPI编译到个人用户目录即可：

• 下载OpenMPI源码包（以4.1.5稳定版为例）：

  wget https://download.open-mpi.org/release/open-mpi/v4.1/openmpi-4.1.5.tar.gz
  tar xzf openmpi-4.1.5.tar.gz
  cd openmpi-4.1.5
  

• 配置编译路径到用户目录（如~/local）：

  ./configure --prefix=$HOME/local --disable-static
  make -j$(nproc)
  make install
  

• 添加环境变量，让系统识别本地OpenMPI：

  export PATH=$HOME/local/bin:$PATH
  export LD_LIBRARY_PATH=$HOME/local/lib:$LD_LIBRARY_PATH
  export LIBRARY_PATH=$HOME/local/lib:$LIBRARY_PATH
  export CPATH=$HOME/local/include:$CPATH
  

• 安装mpi4py，指定本地OpenMPI路径：

  pip install mpi4py --no-binary mpi4py
  

  或直接从源码编译mpi4py：

  git clone https://github.com/mpi4py/mpi4py.git
  cd mpi4py
  python setup.py build --mpi=$HOME/local
  python setup.py install --user
  

2. 使用conda安装预编译的mpi4py #

若系统已有conda（miniconda/anaconda），可直接通过conda安装，它会自动包含依赖的OpenMPI库，无需sudo：

conda install -c conda-forge mpi4py

如果没有conda，可先在用户目录安装miniconda：

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash Miniconda3-latest-Linux-x86_64.sh -b -p $HOME/miniconda
export PATH=$HOME/miniconda/bin:$PATH
conda init

之后再执行上述conda安装命令即可。

3. 切换DeepSpeed的非MPI模式（视场景而定） #

如果仅需单节点训练，可尝试禁用DeepSpeed的MPI依赖：

• 检查训练脚本或DeepSpeed配置文件，移除mpirun/mpiexec等MPI启动命令，改用单节点启动方式。
• 注意：DeepSpeed的多节点分布式训练特性依赖MPI，这种场景下该方法不适用。

4. 联系管理员安装依赖 #

若以上方法均无法满足需求，可直接联系服务器管理员，请求安装libopenmpi-dev包，这是最直接的解决方案。

内容的提问来源于stack exchange，提问作者DrunkKiddo97