You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

AWS Glue 4.0中Delta无法运行,求兼容的delta-core版本

AWS Glue 4.0 兼容的 Delta Lake 版本

Glue 4.0 官方验证兼容的 Delta Lake 稳定版本是 Delta Lake 2.3.0(对应 Scala 2.12 版本的 delta-core_2.12-2.3.0.jar)。

核心原因说明

你在使用旧版本 Delta Lake(比如1.0.1)或其他高版本时出现报错,本质是Glue 4.0基于Spark 3.3.0构建,而Delta Lake 1.x版本与Spark 3.3.x存在API层面的兼容性冲突;过高版本(比如3.x+)则会与Glue内置的Hive、Spark依赖产生版本不匹配问题。

关键配置注意事项

  • 仅引入对应版本的delta-core_2.12-2.3.0.jar,不要同时引入delta-storage等其他Delta子模块,避免依赖重复冲突。
  • 作业启动时必须添加以下Spark配置:
    spark.sql.extensions=io.delta.sql.DeltaSparkSessionExtension
    spark.sql.catalog.spark_catalog=org.apache.spark.sql.delta.catalog.DeltaCatalog
    
  • 不要使用--packages参数拉取Delta依赖,建议直接上传对应jar包到S3并通过--extra-jars指定路径,避免依赖拉取时的版本混淆。

内容的提问来源于stack exchange,提问作者Pirx

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.08.08 05:40:42