You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

PySpark是否依赖Scala?如何查看其使用的Scala版本?

PySpark与Scala的依赖关系及版本查询方法

一、PySpark是否使用Scala?

是的,PySpark必须依赖Scala才能运行。Spark的核心引擎由Scala开发,PySpark只是Spark提供的Python语言绑定,底层执行逻辑最终会调用Scala实现的Spark核心模块,因此PySpark运行离不开Scala环境。

二、查看PySpark对应Scala版本的方法

1. 在PySpark Shell中直接查询

打开PySpark Shell后,执行以下代码即可获取Scala版本:

# 获取完整版本信息
sc._jvm.scala.util.Properties.versionString()

# 仅获取版本号(如2.12.17)
sc._jvm.scala.util.Properties.releaseVersion()

示例输出:

'version 2.12.17'  # 完整信息
'2.12.17'          # 纯版本号

2. 查看Spark安装目录的依赖包

进入Spark安装路径下的lib文件夹,找到名称包含scala-library的jar包,文件名中的数字即为Scala版本。例如:

scala-library-2.12.17.jar  # 对应Scala版本2.12.17

3. 通过spark-submit命令查询

在终端执行以下命令,输出结果中会明确标注Scala版本:

spark-submit --version

示例输出片段:

Spark version 3.4.1
Scala version 2.12.17

内容的提问来源于stack exchange,提问作者sahurahul

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.07.15 17:53:32