如何在Databricks作业集群使用默认JDBC驱动连接SQL Warehouse
解决方案
Databricks作业集群默认预装了适配Spark的Databricks JDBC驱动,不需要通过Maven额外安装。你只需要把代码里的驱动类替换为**com.databricks.spark.jdbc.Driver**即可,这是Runtime自带的驱动,完全满足连接SQL Warehouse的需求。
修改后的代码示例:
jdbc_url = ( "jdbc:databricks://adb-xxxxxx:443/default;" "transportMode=http;ssl=1;" "httpPath=/sql/1.0/warehouses/fxxxxx;" "AuthMech=3;UID=token;" f"PWD={sqlmedium}" ) dfspark = ( spark.read.format("jdbc") .option("url", jdbc_url) .option("query", sql) .option("driver", "com.databricks.spark.jdbc.Driver") # 替换为预装驱动类 .load() )
这个驱动和你之前使用的客户端驱动功能一致,无需额外配置就能在作业集群中正常运行,完美绕过Maven安装的限制。
内容的提问来源于stack exchange,提问作者FábioRB
相关产品推荐
相关产品推荐

