K8s CronJob中Spark应用间歇性报错：找不到spark-version-info.properties

可能的原因 #

• 依赖包资源加载异常：CronJob每次创建新Pod时，容器内类加载器可能偶发无法读取spark-core包中的spark-version-info.properties资源，大概率是打包或镜像构建时资源未被完整包含，或是容器环境下类加载路径存在偶发冲突。
• local模式适配问题：在K8s容器环境中使用master("local")并非最佳实践，单节点运行模式下，容器的文件系统上下文、类加载机制和本地环境存在差异，容易引发资源访问的偶发问题。
• 镜像构建不完整：镜像构建过程中如果依赖缓存或文件拷贝存在疏漏，可能导致部分Pod启动时缺少关键资源文件。

解决方案 #

• 检查打包配置：确认spark-core_2.12:2.4.8依赖被正确引入，且打包时未排除spark-version-info.properties这类资源文件：
  • 若用sbt-assembly打包，检查配置是否过滤了.properties资源，确保保留spark-core中的所有资源；
  • 若用maven-shade-plugin，添加规则保留org.apache.spark相关的资源文件。
• 替换为K8s集群模式：放弃local模式，改用Spark on K8s的集群运行模式，修改SparkSession构建代码：

  lazy val spark: SparkSession = SparkSession.builder
    .appName("My application")
    .master("k8s://https://<你的K8s API服务器地址>:<端口>")
    .config("spark.kubernetes.container.image", "<你的应用镜像地址>")
    .config("spark.kubernetes.namespace", "<你的命名空间>")
    // 根据需求添加executor资源限制、存储挂载等配置
    .getOrCreate()
  

• 验证镜像完整性：重新构建镜像时，添加预检查步骤，确保spark-core包包含目标文件。比如在Dockerfile中加入：

  RUN jar tf /opt/spark/jars/spark-core_2.12-2.4.8.jar | grep spark-version-info.properties || exit 1
  

  这样构建时如果资源缺失会直接失败，避免部署有问题的镜像。
• 配置CronJob重试：在CronJob的YAML配置中增加重试次数，应对偶发的启动失败：

  apiVersion: batch/v1
  kind: CronJob
  metadata:
    name: your-spark-job
  spec:
    schedule: "*/5 * * * *"
    jobTemplate:
      spec:
        backoffLimit: 3 # 失败后重试3次
        template:
          spec:
            containers:
            - name: spark-app
              image: your-image:tag
            restartPolicy: OnFailure
  

内容的提问来源于stack exchange，提问作者Julia Bel