Trino从PostgreSQL导出数据速度受限的优化问询

使用Trino执行跨库数据导出，查询语句如下：

INSERT INTO db_name.public.example_table (id, name, content, boolean, timestamp) 
SELECT id, name, content, CAST(boolean AS tinyint), CAST(timestamp AS timestamp(0)) 
FROM postgresql.public.example_table;

数据传输速度始终卡在约50MB/s，环境及配置如下：

环境参数 #

• 主机间延迟：0.6ms
• 网络带宽：1Gbps
• PostgreSQL源端：Intel Cascade Lake 8核CPU、8GB内存
• 目标数据库：规格与PostgreSQL源端相近
• Trino服务器：Intel Cascade Lake 16核CPU、32GB内存

已配置的Trino会话参数 #

SET SESSION task_writer_count = 128;
SET SESSION task_concurrency = 128;
SET SESSION query_max_memory = '10GB';
SET SESSION query_max_total_memory = '10GB';
SET SESSION query_max_memory_per_node = '4GB';

确认目标数据库无瓶颈（已测试多种配置），且导出过程中所有服务器资源利用率未超过50%，需定位瓶颈并优化传输速度。

核心瓶颈定位 #

1. PostgreSQL源端并行读取限制：默认情况下，PostgreSQL可能未开启并行查询，或Trino的PostgreSQL连接器未配置并行读取参数，导致Trino只能以单线程或低并行度从源库拉取数据，即使Trino有闲置资源也无法利用。
2. Trino分片策略不合理：若源表无合适的主键/分区键，Trino对PostgreSQL表的分片数会过少，无法充分触发多线程读取，进而限制整体传输速度。
3. Trino会话参数配置冗余：task_writer_count和task_concurrency设置为128远超服务器实际处理能力，反而引发资源竞争；query_max_total_memory与query_max_memory设置相同，限制了Trino集群的总内存使用空间。

具体优化步骤 #

1. 开启PostgreSQL源端并行查询 #

• 在PostgreSQL服务器上调整参数：

  -- 单查询并行worker数，建议设为CPU核心数的一半
  SET max_parallel_workers_per_gather = 4;
  -- 全局并行worker总数，建议设为CPU核心数
  SET max_parallel_workers = 8;
  

  若需永久生效，修改postgresql.conf后重启服务。
• 在Trino中配置PostgreSQL连接器并行度：

  SET SESSION postgresql.parallelism = 8;
  

  该参数控制Trino从PostgreSQL拉取数据时的并行查询数，建议与PostgreSQL的CPU核心数匹配。

2. 优化Trino分片与并行参数 #

• 调整分片策略：若源表有主键，确保Trino基于主键分片；若无主键，可手动指定分片列强制多分片读取：

  INSERT INTO db_name.public.example_table (...)
  SELECT ... FROM postgresql.public.example_table DISTRIBUTE BY id;
  

• 降低过度并行的会话参数：

  -- 与Trino CPU核心数匹配，建议16-32
  SET SESSION task_concurrency = 32;
  -- 与目标库写入能力匹配，建议16-32
  SET SESSION task_writer_count = 32;
  

3. 调整Trino内存参数 #

• 放开集群总内存限制，避免内存不足导致的并行度下降：

  SET SESSION query_max_memory = '10GB';
  SET SESSION query_max_total_memory = '20GB';
  SET SESSION query_max_memory_per_node = '4GB';
  

  query_max_total_memory应大于query_max_memory，充分利用Trino的32GB内存资源。

4. 辅助优化措施 #

• 更新PostgreSQL源表统计信息，确保优化器选择并行查询计划：

  ANALYZE postgresql.public.example_table;
  

• 确保Trino的PostgreSQL连接器为最新版本，避免旧版本的并行读取bug。

内容的提问来源于stack exchange，提问作者Panteley