如何通过Databricks CLI安装库至集群?遇JSON格式错误求助
解决Databricks CLI安装Jar库的问题
一、先确认Jar文件是否真的上传成功
你说文件在WebUI不可见,先通过CLI验证上传结果:
databricks fs ls dbfs:/FileStore/jars/
如果能看到你的kudu-spark3-tools_2.12-1.15.0.7.1.7.2010-1.jar,说明上传没问题,WebUI里刷新DBFS页面就能看到;如果看不到,重新执行上传命令:
databricks fs cp ./本地jar路径 dbfs:/FileStore/jars/kudu-spark3-tools_2.12-1.15.0.7.1.7.2010-1.jar
二、修正CLI命令格式(无需JSON的快速方式)
你之前的命令参数格式错误,正确的CLI命令需要加--前缀指定参数:
databricks libraries install --cluster-id 1023-124341-ftg82vdr --jar dbfs:/FileStore/jars/kudu-spark3-tools_2.12-1.15.0.7.1.7.2010-1.jar
执行完后可以用以下命令检查安装状态:
databricks libraries list --cluster-id 1023-124341-ftg82vdr
三、正确的JSON请求格式(如果你想用JSON方式)
你写的JSON结构完全不符合Databricks API要求,不需要name、tasks字段,而且DBFS路径要用dbfs类型,不是workspace。正确的JSON内容如下:
{ "cluster_id": "1023-124341-ftg82vdr", "libraries": [ { "dbfs": { "path": "dbfs:/FileStore/jars/kudu-spark3-tools_2.12-1.15.0.7.1.7.2010-1.jar" } } ] }
保存为librarySparkDatabricks.json后,执行命令:
databricks libraries install --json @librarySparkDatabricks.json
额外提示
- 如果你要把Jar导入到**工作区(Workspace)**而不是直接安装到集群,需要用
databricks workspace import命令,比如:
databricks workspace import --file ./本地jar路径 --path /Workspace/Shared/kudu-spark3-tools.jar --language JAR
之后在WebUI的工作区就能看到这个Jar,再手动或通过API安装到集群。
内容的提问来源于stack exchange,提问作者Skiel
相关产品推荐
相关产品推荐

