解决Trino对接MinIO时S3AFileSystem ClassNotFoundException异常

问题背景 #

使用Trino 474通过Hive连接器访问存储在MinIO的Hudi表时，触发java.lang.ClassNotFoundException: Class org.apache.hadoop.fs.s3a.S3AFileSystem not found错误，已将Hadoop与AWS相关JAR复制到Trino Hive插件目录，但问题仍未解决。环境组件包括：Trino 474（Docker镜像）、MinIO（S3兼容存储）、Hive Metastore 3.1.3、Spark（写入Hudi表到MinIO）。

排查与解决步骤 #

1. 补全缺失的依赖JAR #

仅复制hadoop-aws、hadoop-client系列JAR不足以加载S3AFileSystem，还需补充Hadoop核心依赖JAR：

• hadoop-common-3.2.4.jar
• hadoop-auth-3.2.4.jar
• jackson-databind-2.10.5.1.jar（部分版本Hadoop依赖该类库）
  确保所有JAR版本与Hadoop 3.2.4完全一致，避免版本冲突。

2. 修正Dockerfile的权限与配置挂载 #

Trino以trino用户运行，需确保复制的JAR文件权限正确，同时挂载Hadoop配置文件让Trino读取S3A配置：

FROM trinodb/trino:474
USER root
# 创建Hadoop配置目录
RUN mkdir -p /etc/trino/hadoop
# 挂载Hadoop核心配置文件（core-site.xml、hive-site.xml）
COPY conf/core-site.xml /etc/trino/hadoop/
COPY conf/hive-site.xml /etc/trino/hadoop/
# 复制所有依赖JAR到Hive插件目录
COPY jars/*.jar /usr/lib/trino/plugin/hive/
# 修正文件权限，确保Trino用户可读取
RUN chown trino:trino /usr/lib/trino/plugin/hive/*.jar \
    && chmod 644 /usr/lib/trino/plugin/hive/*.jar
USER trino

3. 完善Trino Hive连接器配置 #

在hive.properties中添加Hadoop配置资源路径，确保Trino加载S3A相关配置：

hive.metastore.uri=thrift://hive-metastore:9083
fs.native-s3.enabled=false
hive.s3.aws-access-key=minioadmin
hive.s3.aws-secret-key=minioadmin
hive.s3.endpoint=http://minio:9000
hive.s3.path-style-access=true
hive.s3.ssl.enabled=false
# 加载Hadoop配置文件
hive.config.resources=/etc/trino/hadoop/core-site.xml,/etc/trino/hadoop/hive-site.xml

4. 配置Hadoop core-site.xml #

确保core-site.xml包含完整的S3A配置：

<configuration>
    <property>
        <name>fs.s3a.impl</name>
        <value>org.apache.hadoop.fs.s3a.S3AFileSystem</value>
    </property>
    <property>
        <name>fs.s3a.access.key</name>
        <value>minioadmin</value>
    </property>
    <property>
        <name>fs.s3a.secret.key</name>
        <value>minioadmin</value>
    </property>
    <property>
        <name>fs.s3a.endpoint</name>
        <value>http://minio:9000</value>
    </property>
    <property>
        <name>fs.s3a.path.style.access</name>
        <value>true</value>
    </property>
    <property>
        <name>fs.s3a.connection.ssl.enabled</name>
        <value>false</value>
    </property>
</configuration>

5. 验证类加载与启动日志 #

重启Trino容器后，查看启动日志（docker logs <trino-container-id>），确认无类加载错误信息。进入容器执行trino --debug启动客户端，尝试查询Hudi表验证是否恢复正常。

额外注意事项 #

• 避免混合不同版本的Hadoop JAR，Trino Hive插件目录中若存在旧版本Hadoop依赖，需删除后替换为3.2.4版本。
• 若仍存在类冲突，可通过Trino的--debug模式查看类加载路径，确认目标JAR是否被正确加载。

内容的提问来源于stack exchange，提问作者Acharya KLN