You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

spark-submit使用--files参数时会从哪个目录查找指定文件?

spark-submit --files 相对路径查找规则

当你使用spark-submit --files传入无路径的文件名(比如示例中的somescript.sh)或者相对路径时,spark-submit只会在你执行该命令时的当前终端工作目录下查找对应文件,不会扫描全类路径。

以下是相关的注意事项:

  • 如果待上传的文件不在当前执行命令的目录下,你可以先cd到文件所在目录再执行spark-submit,也可以拼接相对于当前工作目录的相对路径,比如spark-submit --files ../script/somescript.sh
  • 文件提交成功后,会被分发到所有Executor进程的工作目录中,你在作业代码里直接写文件名就可以读取,不需要携带原始的本地路径前缀。

内容的提问来源于stack exchange,提问作者hawarden_

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.10.06 05:51:01