DataFlow流水线使用Google Storage SDK随机出现Socket closed错误如何解决

报错栈信息如下：

java.lang.RuntimeException: org.apache.beam.sdk.util.UserCodeException: com.google.cloud.storage.StorageException: Socket closed
org.apache.beam.runners.dataflow.worker.GroupAlsoByWindowsParDoFn$1.output(GroupAlsoByWindowsParDoFn.java:187)
org.apache.beam.runners.dataflow.worker.GroupAlsoByWindowFnRunner$1.outputWindowedValue(GroupAlsoByWindowFnRunner.java:108)
org.apache.beam.runners.dataflow.worker.repackaged.org.apache.beam.runners.core.ReduceFnRunner.lambda$onTrigger$1(ReduceFnRunner.java:1058)
org.apache.beam.runners.dataflow.worker.repackaged.org.apache.beam.runners.core.ReduceFnContextFactory$OnTriggerContextImpl.output(ReduceFnContextFactory.java:445)
org.apache.beam.runners.dataflow.worker.repackaged.org.apache.beam.runners.core.SystemReduceFn.onTrigger(SystemReduceFn.java:130)
org.apache.beam.runners.dataflow.worker.repackaged.org.apache.beam.runners.core.ReduceFnRunner.onTrigger(ReduceFnRunner.java:1061)
org.apache.beam.runners.dataflow.worker.repackaged.org.apache.beam.runners.core.ReduceFnRunner.emit(ReduceFnRunner.java:932)

1. 优先排查依赖版本冲突 #

• DataFlow 2.29.0 官方适配的google-cloud-storage版本为1.113.16，你使用的1.54.0版本与内置依赖存在跨版本不兼容问题，会导致底层HTTP连接池管理逻辑异常，随机触发连接提前关闭。
• 修复方案二选一：
  • 升级DataFlow版本到2.40及以上，适配1.54.0版本的google-cloud-storage
  • 回退google-cloud-storage到1.113.x分支的兼容版本

2. 调整GCS客户端配置 #

• 显式配置更长的读写超时时间，默认超时时间较短，大文件写入或者高并发场景下容易触发服务端主动断连
• 开启针对网络异常的自动重试策略，对SOCKET_CLOSED、CONNECTION_RESET等错误配置3-5次指数退避重试

3. 优化流水线运行参数 #

• 检查工作节点负载，若CPU/内存使用率长期超过80%，会导致客户端线程被阻塞，无法及时响应GCS心跳触发连接回收，可升级工作节点规格或者降低单节点并发处理数
• 拆分写入批次：如果单批次写入文件数量过多、或者单文件体积超过1G，建议拆分写入批次。使用Beam原生IO写入GCS时可通过withNumShards调整分片数，降低单个分片的写入大小

4. 排查网络配置 #

• 若流水线运行在私有VPC中，确认到GCS的私有访问路径配置正常，防火墙规则的TCP空闲超时时间建议设置为600秒以上，避免中间网络设备主动断开空闲长连接

内容的提问来源于stack exchange，提问作者Aishwarya Bhandari