ppc64-le架构RHEL7.6上安装OpenLLM遇Optimum版本文件缺失错误
解决方案
针对ppc64le架构RHEL7.6环境下安装OpenLLM时Optimum的version.py缺失问题,按以下步骤处理:
先手动编译安装兼容的Optimum版本
部分Optimum预编译包未适配ppc64le,源码包可能存在路径结构问题,需指定稳定版本从源码编译:# 安装编译依赖工具 pip install setuptools wheel cython # 克隆指定版本的Optimum仓库(v1.13.0经测试适配ppc64le) git clone --depth 1 --branch v1.13.0 https://github.com/huggingface/optimum.git cd optimum # 编译并安装,禁用构建隔离避免路径问题 pip install -e . --no-build-isolation安装OpenLLM
Optimum安装完成后,执行OpenLLM安装命令:pip install openllm若仍出现依赖冲突,可跳过自动依赖安装,手动补全其他依赖:
pip install openllm --no-deps # 从OpenLLM的pyproject.toml中提取剩余依赖逐一安装,例如: pip install transformers accelerate pydantic补全系统级编译依赖
RHEL7.6默认可能缺少编译必需的系统库,先安装:sudo yum install gcc gcc-c++ glibc-devel make升级Python构建工具
旧版本setuptools/wheel可能导致源码编译时的路径解析错误,升级到最新版:pip install --upgrade setuptools wheel
内容的提问来源于stack exchange,提问作者Shanam Afzal
相关产品推荐
相关产品推荐

