Python3安装HuggingFace Datasets库导入报pyarrow DLL加载失败
问题核心诱因
你看到的WARNING: Ignoring invalid distribution -yarrow是排查问题的关键线索:当前Python环境的第三方包目录下存在pyarrow安装/卸载失败留下的损坏残件,直接导致后续重装pyarrow时文件覆盖不全、DLL版本不匹配,最终触发导入阶段的DLL加载失败报错。
修复步骤
- 清理损坏的残留安装文件
先执行命令查询当前环境的第三方包存储路径:
打开命令输出的目录,找到所有名称以python -c "import site; print(site.getsitepackages())"~yarrow或-yarrow开头的文件夹,全部删除。这类残件就是pip报无效分发警告的直接来源,也是导致包冲突的核心原因。 - 彻底卸载现有相关包
重复执行卸载命令,直到提示对应包不存在为止,确保没有残留文件:pip uninstall -y pyarrow datasets pip3 uninstall -y pyarrow datasets # 如果你使用conda虚拟环境,额外执行下面的命令 conda remove -y pyarrow datasets - 清除pip安装缓存
损坏的旧安装包可能存在于缓存中,执行命令清空缓存避免复用坏包:pip cache purge - 安装兼容版本的依赖
Windows环境下pyarrow最新版常出现DLL兼容问题,优先选择经过验证的稳定版本安装,适配Python3.8~3.12 64位环境的命令如下:# 先装兼容性稳定的pyarrow版本 pip install pyarrow==14.0.2 # 再安装datasets pip install datasets - 验证修复结果
执行命令验证导入是否正常:python -c "from datasets import load_dataset; print('导入成功')"
若执行后仍然报DLL加载错误,检查本地是否安装了Visual C++ Redistributable 2015-2022运行库,pyarrow在Windows环境下依赖该运行库,安装完成后重启终端再重试即可。
内容的提问来源于stack exchange,提问作者J. Jonah Jameson
相关产品推荐
相关产品推荐

