You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

PySpark写入BigQuery时遭遇NoSuchMethodError错误的排查求助

PySpark写入BigQuery时遭遇NoSuchMethodError错误的排查求助

Heyyy,我用PySpark读取BigQuery数据完全没问题,但写入的时候一直卡壳,每次都会弹出这个错误:

Caused by: java.lang.NoSuchMethodError: com.google.common.base.Preconditions.checkArgument(ZLjava/lang/String;JJ)V

我已经用了最新的jar包依赖:

spark.jars.packages com.google.cloud.spark:spark-bigquery-with-dependencies_2.12:0.41.1,\
                    com.google.cloud.bigdataoss:gcs-connector:hadoop3-2.2.26

后来我还参考Stack Overflow上的建议加了一些额外的包,想着可能是依赖冲突的问题,但还是没用:

spark.jars.packages org.apache.hadoop:hadoop-aws:3.2.0,\
                    io.grpc:grpc-protobuf:1.69.0,\
                    io.grpc:grpc-stub:1.69.0,\
                    com.google.inject:guice:7.0.0,\
                    com.google.cloud.spark:spark-bigquery-with-dependencies_2.12:0.41.1,\
                    com.google.cloud.bigdataoss:gcs-connector:hadoop3-2.2.26

有没有大佬能帮忙分析下到底哪里出问题了?是不是哪个包版本不兼容呀?另外我试了好几个PySpark版本,结果全是同一个错误:

3.1.3
3.3.3
3.5.1

我的Java版本是 java 11.0.23 2024-04-16 LTS

备注:内容来源于stack exchange,提问作者LonelyPenguin

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.04.14 17:13:04