Glue 4(Python3.9)Python Shell作业导入pg库遇平台兼容错误
解决AWS Glue Python Shell作业中PyGreSQL wheel包平台不兼容问题
问题原因
AWS Glue 4.0的Python Shell运行环境基于Amazon Linux 2(Linux x86_64架构),你当前使用的PyGreSQL-5.2.3-cp39-cp39-win32.whl是Windows平台的wheel包,和Glue的Linux环境不兼容,因此报错“is not a supported wheel on this platform”。
解决步骤
- 下载适配Python 3.9、Linux x86_64平台的PyGreSQL wheel包,例如
PyGreSQL-5.2.3-cp39-cp39-manylinux_2_17_x86_64.whl。 - 将正确的wheel包上传到S3路径
s3://${var.glue_bucket}/scripts/下。 - 更新Glue作业的
--extra-py-files参数,指向新的wheel包:--extra-py-files=s3://${var.glue_bucket}/scripts/PyGreSQL-5.2.3-cp39-cp39-manylinux_2_17_x86_64.whl - 若找不到对应预编译wheel包,也可以上传PyGreSQL的源码压缩包(如
PyGreSQL-5.2.3.tar.gz),Glue会在运行时自动编译安装(Glue 4.0环境通常已预装编译所需的依赖)。
内容的提问来源于stack exchange,提问作者Mateusz Sobczak
相关产品推荐
相关产品推荐

