pyhive对接DolphinScheduler生产环境偶发Cannot initialize Cluster报错

我在程序中使用pyhive对接DolphinScheduler时，开发环境运行完全正常，但部署到生产环境后出现偶发成功、偶发失败的情况，报错信息为Cannot initialize Cluster. Please check your configuration，目前暂未定位到故障原因。

示例代码 #

from pyhive import hive
conn = hive.Connection(host="cdh1", port=10000, username="root")
cursor = conn.cursor()
cursor.execute("""
set hive.exec.dynamic.partition.mode=nonstrict
""")
cursor.execute("""
INSERT INTO TABLE table_name
SELECT ...
""")
cursor.close()
conn.close()

软件版本信息 #

CDH6.3  
hive version 2.1.1  
hadoop version 3.0.0

错误日志 #

/tmp/hive/XXX路径下的报错日志如下：

ERROR [main]  hadoop.ParquetRecordReader: Can not initialize counter due to context is not a instance of TaskInputOutputContext, but is org.apache.hadoop.mapreduce.task.TaskAttemptContextImpl

日志翻译：[main]线程报错：hadoop.ParquetRecordReader无法初始化计数器，因为上下文不是TaskInputOutputContext的实例，实际为org.apache.hadoop.mapreduce.task.TaskAttemptContextImpl类的实例

报错截图 #

该偶发故障核心原因是Parquet依赖的版本兼容问题、以及生产环境多节点配置不一致，可按以下步骤逐一验证修复：

• 优先排查所有Hive集群节点、DolphinScheduler执行节点的parquet-hadoop依赖包版本是否统一，CDH6.3自带的Parquet包和Hadoop 3.0.0存在已知的上下文类适配缺陷，要么将所有节点的Parquet依赖升级到对应CDH小版本的官方补丁版，要么在作业配置中显式指定用户类路径优先加载。
• 你当前的连接代码没有显式传入集群配置，生产环境多节点调度时可能出现配置加载错位，可在建立连接时补充必要的配置项，避免使用默认加载的本地配置：

  conn = hive.Connection(
      host="cdh1", 
      port=10000, 
      username="root",
      configuration={
          "mapreduce.job.user.classpath.first": "true",
          "parquet.task.side.metadata": "false"
      }
  )
  

• 检查DolphinScheduler所有执行节点的Hadoop、Hive客户端配置（core-site.xml、hive-site.xml、mapred-site.xml）是否和Hive服务端完全一致，偶发报错通常是因为调度请求分发到了配置不一致的执行节点导致。
• 可临时开启HiveServer2的Debug日志，出现报错时对应查看HS2的请求日志，确认失败的请求是否都路由到了同一个HiveServer节点，排查是否存在单节点配置异常的情况。

内容的提问来源于stack exchange，提问作者distinct