You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

PySpark Word2Vec模型本地保存失败:Mkdirs创建失败问题排查

PySpark Word2Vec模型保存失败(Mkdirs failed to create)的原因分析

以下是可能导致该错误的核心原因:

  • Executor节点无法访问Driver本地路径
    Spark集群运行时,Executor会在各自节点执行任务并尝试创建临时文件,但你指定的file:/home/jovyan/_git/notebooks/word2vec.model是Driver所在节点的本地路径,其他Executor节点(如报错中的100.66.40.74)既没有该路径的访问权限,甚至该路径在Executor节点上根本不存在——本地文件系统不是分布式共享的,Executor无法直接写入Driver的本地目录。

  • 误用本地文件系统存储分布式模型
    集群模式下,Spark模型保存依赖所有节点可访问的分布式存储(如HDFS、S3)。直接使用file://协议的本地路径时,仅Driver节点能创建顶层文件夹,但Executor无法写入所需的临时文件,最终导致保存失败。

  • 目录权限不足
    即使在Driver节点,当前运行Spark的用户(如jovyan)可能没有/home/jovyan/_git/notebooks/目录的写入权限,或者系统限制了嵌套临时文件夹的创建权限,无法生成报错中多层级的临时目录结构。

  • 路径格式或拼写问题
    检查路径是否包含特殊字符、拼写错误,或者在集群环境下误用了本地路径格式——若要使用本地存储,需确保所有Executor节点都有相同的本地路径且权限足够,但这种方式并不适合分布式模型的持久化。

内容的提问来源于stack exchange,提问作者s510

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.08.20 17:16:03