Spark写入Snowflake时COPY INTO命令超时失败问题排查

核心现象 #

通过Spark向Snowflake写入数据时，COPY INTO命令恰好执行5分钟后失败，但GET、PUT命令可正常完成；已更换不同Warehouse，且确认超时参数设置为7200秒（2小时），需定位问题源于Spark还是Snowflake参数。

涉及命令：

GET @spark_connector_load_stage_jtVp1DVrvm/ file:///tmp/dummy_location_spark_connector_tmp/

PUT file:///tmp/dummy_location_spark_connector_tmp/ @spark_connector_load_stage_jtVp1DVrvm

copy into <table_name> FROM @spark_connector_load_stage_jtVp1DVrvm/7sizvhBNgR/ 
FILE_FORMAT = (
    TYPE=CSV
    FIELD_DELIMITER='|'
    NULL_IF=()
    FIELD_OPTIONALLY_ENCLOSED_BY='"'
    TIMESTAMP_FORMAT='TZHTZM YYYY-MM-DD HH24:MI:SS.FF9'
    DATE_FORMAT='TZHTZM YYYY-MM-DD HH24:MI:SS.FF9'
    BINARY_FORMAT=BASE64
  )

排查方向 #

1. Spark端潜在超时参数 #

即便全局设置了7200秒超时，Spark Snowflake Connector可能存在独立的COPY操作超时控制：

• 检查并显式设置sf.query_timeout参数：该参数专门控制Snowflake查询的超时时间，默认值为300秒（5分钟），未指定时会覆盖全局设置。需在Spark配置中添加：

  .option("sf.query_timeout", "7200")
  

• 调整spark.network.timeout：该参数控制Spark节点间网络超时，默认同样为300秒，大文件COPY时可能触发。修改配置：

  spark.network.timeout 7200s
  

2. Snowflake端隐藏超时设置 #

• Warehouse级别语句超时：更换Warehouse后需确认其STATEMENT_TIMEOUT_IN_SECONDS参数，执行SQL检查：

  SHOW WAREHOUSES LIKE '<your_warehouse_name>';
  

  若结果中该字段值为300，说明Warehouse级别的5分钟超时覆盖了用户设置，需修改：

  ALTER WAREHOUSE <your_warehouse_name> SET STATEMENT_TIMEOUT_IN_SECONDS = 7200;
  

• 会话级别超时：检查当前会话的超时配置：

  SHOW PARAMETERS LIKE 'STATEMENT_TIMEOUT_IN_SECONDS';
  

  若显示为300，需在会话启动时设置：

  ALTER SESSION SET STATEMENT_TIMEOUT_IN_SECONDS = 7200;
  

• COPY数据格式验证：PUT成功不代表文件格式完全合规，若文件存在解析异常，可能导致COPY INTO卡住触发超时。可尝试用小文件手动执行COPY INTO（跳过Spark），验证是否成功。

3. 其他可能原因 #

• 网络中间件超时：防火墙、代理服务器可能设置了5分钟连接超时，PUT/GET是短传输操作未触发，但COPY INTO是Snowflake内部读取加载的长连接，可能触发中间件限制。
• 文件规模问题：大量小文件或超大文件会增加COPY INTO的处理时间，若未拆分可能触发隐性超时，尝试拆分文件后再测试。

验证步骤 #

1. 直接在Snowflake客户端执行相同的COPY INTO命令：
   • 若仍5分钟失败，问题在Snowflake端（Warehouse或会话超时）；
   • 若成功，问题在Spark Connector的超时参数配置。
2. 显式设置Spark的sf.query_timeout为7200，重新执行任务观察是否超时。

内容的提问来源于stack exchange，提问作者Aswin Suresh