已引入scala-library 2.13.6仍报NoClassDefFoundError: scala/collection/StringOps如何解决
问题原因
你遇到的是典型的Scala跨大版本依赖不兼容问题:
- Spark 3.1.2 官方提供的
spark-core_2.12依赖是基于Scala 2.12版本编译的,只能和Scala 2.12.x系列的标准库兼容 - 你当前项目指定的
scalaVersion := "2.13.6"对应的Scala 2.13标准库对集合类做了不兼容改造,scala/collection/StringOps类的定义、字节码签名和2.12版本完全不一致,所以运行时会抛出类找不到的异常
解决方案
二选一即可:
方案1:降级项目Scala版本到2.12.x系列
修改build.sbt里的Scala版本配置,和Spark依赖的Scala版本对齐:
scalaVersion := "2.12.15" libraryDependencies ++= Seq( "org.apache.spark" % "spark-core_2.12" % "3.1.2")
方案2:更换为适配Scala 2.13的Spark版本
如果你必须使用Scala 2.13,可以升级Spark版本到支持Scala 2.13的版本(Spark从3.2.0开始正式提供Scala 2.13的编译版本):
scalaVersion := "2.13.6" libraryDependencies ++= Seq( "org.apache.spark" % "spark-core_2.13" % "3.2.0")
注意事项
所有带_2.12/_2.13后缀的Scala生态依赖,后缀的大版本必须和项目的scalaVersion大版本完全一致,否则都会出现类似的类不兼容运行时异常。
内容的提问来源于stack exchange,提问作者Michael
相关产品推荐
相关产品推荐

