PySpark写入BigQuery时遭遇NoSuchMethodError错误的排查求助
PySpark写入BigQuery时遭遇NoSuchMethodError错误的排查求助
Heyyy,我用PySpark读取BigQuery数据完全没问题,但写入的时候一直卡壳,每次都会弹出这个错误:
Caused by: java.lang.NoSuchMethodError: com.google.common.base.Preconditions.checkArgument(ZLjava/lang/String;JJ)V
我已经用了最新的jar包依赖:
spark.jars.packages com.google.cloud.spark:spark-bigquery-with-dependencies_2.12:0.41.1,\ com.google.cloud.bigdataoss:gcs-connector:hadoop3-2.2.26
后来我还参考Stack Overflow上的建议加了一些额外的包,想着可能是依赖冲突的问题,但还是没用:
spark.jars.packages org.apache.hadoop:hadoop-aws:3.2.0,\ io.grpc:grpc-protobuf:1.69.0,\ io.grpc:grpc-stub:1.69.0,\ com.google.inject:guice:7.0.0,\ com.google.cloud.spark:spark-bigquery-with-dependencies_2.12:0.41.1,\ com.google.cloud.bigdataoss:gcs-connector:hadoop3-2.2.26
有没有大佬能帮忙分析下到底哪里出问题了?是不是哪个包版本不兼容呀?另外我试了好几个PySpark版本,结果全是同一个错误:
3.1.3 3.3.3 3.5.1
我的Java版本是 java 11.0.23 2024-04-16 LTS
备注:内容来源于stack exchange,提问作者LonelyPenguin
相关产品推荐
相关产品推荐

