Windows10下Spark-NLP预训练模型加载失败问题求助
解决Spark-NLP预训练管道加载失败的问题
这个问题本质是Spark-NLP版本与PySpark版本不兼容导致的预训练资源匹配失败,我们来一步步解决:
错误根源分析
从错误栈里的ResourceRequest(explain_document_ml,Some(en),public/models,2.6.4,2.4.4)能明确看出:
- 你安装的Spark-NLP版本是2.6.4
- 它期望匹配的Spark版本是2.4.4,但你实际安装的是PySpark 2.4.5,版本不匹配导致找不到对应预训练资源。
解决方案
方案1:匹配Spark-NLP 2.6.4对应的PySpark版本
将PySpark降级到2.4.4,和Spark-NLP 2.6.4完全匹配:
!pip install --user spark-nlp==2.6.4 pyspark==2.4.4
执行完成后,重启Jupyter Notebook内核,再重新运行你的代码。
方案2:升级Spark-NLP到兼容PySpark 2.4.5的版本
如果你想保留PySpark 2.4.5,可以升级Spark-NLP到2.7.x及以上版本(2.7.x开始支持Spark 2.4.5),比如安装2.7.5版本:
!pip install --user spark-nlp==2.7.5 pyspark==2.4.5
同样,重启内核后重新加载预训练管道。
验证版本匹配
重启后,建议先运行以下代码确认版本是否匹配:
import sparknlp spark = sparknlp.start() print(f"Spark-NLP version: {sparknlp.version()}") print(f"Spark version: {spark.version}")
确保两者版本对应(比如2.6.4对应Spark 2.4.4,2.7.5对应Spark 2.4.5)。
额外注意
- 确保你的网络可以正常访问Spark-NLP的模型仓库(错误中显示下载已启动,大概率不是网络问题,但如果仍有问题可以检查防火墙设置)
- 执行
conda activate sparknlp后,确保在Jupyter中确实使用了这个虚拟环境(可以通过!python --version确认)
内容的提问来源于stack exchange,提问作者gaurav gund
相关产品推荐
相关产品推荐

