PySpark Word2Vec模型本地保存失败:Mkdirs创建失败问题排查
PySpark Word2Vec模型保存失败(Mkdirs failed to create)的原因分析
以下是可能导致该错误的核心原因:
Executor节点无法访问Driver本地路径
Spark集群运行时,Executor会在各自节点执行任务并尝试创建临时文件,但你指定的file:/home/jovyan/_git/notebooks/word2vec.model是Driver所在节点的本地路径,其他Executor节点(如报错中的100.66.40.74)既没有该路径的访问权限,甚至该路径在Executor节点上根本不存在——本地文件系统不是分布式共享的,Executor无法直接写入Driver的本地目录。误用本地文件系统存储分布式模型
集群模式下,Spark模型保存依赖所有节点可访问的分布式存储(如HDFS、S3)。直接使用file://协议的本地路径时,仅Driver节点能创建顶层文件夹,但Executor无法写入所需的临时文件,最终导致保存失败。目录权限不足
即使在Driver节点,当前运行Spark的用户(如jovyan)可能没有/home/jovyan/_git/notebooks/目录的写入权限,或者系统限制了嵌套临时文件夹的创建权限,无法生成报错中多层级的临时目录结构。路径格式或拼写问题
检查路径是否包含特殊字符、拼写错误,或者在集群环境下误用了本地路径格式——若要使用本地存储,需确保所有Executor节点都有相同的本地路径且权限足够,但这种方式并不适合分布式模型的持久化。
内容的提问来源于stack exchange,提问作者s510
相关产品推荐
相关产品推荐

