如何通过Terraform配置Azure Databricks集群13.3 LTS运行时?
解决Azure Databricks集群Terraform升级至13.3 LTS的spark_version参数问题
正确的spark_version参数值
对应Azure Databricks 13.3 LTS运行时版本,Terraform中可正常使用的spark_version参数值有两种格式:
13.3.x-scala2.12
或LTS专属标识:
13.3-lts-scala2.12
错误原因说明
你之前尝试的参数值存在两类问题:
- 混淆了Databricks Runtime版本和Spark内核版本:
3.12.x-scala2.12是原生Spark内核的版本标识,但Terraform的databricks_cluster资源需要的是Databricks Runtime的版本格式,并非原生Spark版本。 - 使用了错误的Runtime版本号:
13.0-lts、13.0.x-scala2.12对应13.0 LTS版本,并非你需要的13.3 LTS。
验证可用版本的方法(可选)
如果不确定目标版本的正确标识,可通过以下方式确认:
- 登录Azure Databricks工作区,手动创建集群时查看运行时版本的下拉选项,显示的格式可直接用于Terraform配置。
- 使用Databricks CLI执行命令
databricks clusters spark-versions list,输出结果中的版本标识可直接复用。
内容的提问来源于stack exchange,提问作者E. Erfan
相关产品推荐
相关产品推荐

