双节点MinIO集群偶发上传极慢问题求助（Spring Boot场景）

问题背景 #

Linux环境部署2节点MinIO集群（版本Release.2023-05-04T21-44-30Z），默认配置运行，由Spring Boot应用（MinIO Java客户端8.5.2版本）调用实现文件上传下载。日常上传下载正常且速度较快，但极少出现上传突然卡顿：小于100KB的文件正常1秒内完成，故障时耗时超1分钟，约半小时后自动恢复。

故障核心特征：

• 故障时应用、MinIO进程状态无异常，重启两者均无法解决
• 服务器网络、CPU、内存监控指标无明显波动
• 通过MinIO控制台上传文件完全正常

可能原因分析 #

1. Java客户端连接池未配置
   默认MinIO客户端未显式设置连接池参数，当连接被占用或未正确释放时，会导致请求排队等待，引发超时或慢请求。
2. TCP连接失效未感知
   应用与MinIO之间的TCP连接可能被中间网络设备（防火墙、负载均衡）因空闲超时断开，但客户端仍尝试复用失效连接，导致重试等待。
3. 小文件分片逻辑开销
   当前代码中putObject的分片参数设为-1，客户端自动决定分片策略，小文件可能触发不必要的分片逻辑，增加额外开销。
4. MinIO内部同步阻塞
   2节点集群默认采用纠删码模式，故障时可能出现节点间数据同步阻塞，而控制台请求的路由逻辑与应用客户端存在差异，未触发该阻塞。

代码优化与排查步骤 #

1. 配置客户端连接池与超时参数 #

修改MinIoClientConfig，显式设置连接池、超时参数，避免连接耗尽或无意义等待：

@Bean
public MinioClient minioClient(){
    return MinioClient.builder()
            .endpoint(url)
            .credentials(userName, password)
            // 设置连接、读写超时
            .connectTimeout(Duration.ofSeconds(10))
            .writeTimeout(Duration.ofSeconds(30))
            .readTimeout(Duration.ofSeconds(30))
            // 配置连接池参数
            .httpClient(HttpClient.builder()
                    .maxConnections(50)
                    .keepAliveDuration(Duration.ofMinutes(5))
                    .connectionTimeout(Duration.ofSeconds(10))
                    .build())
            .build();
}

2. 优化putObject调用参数 #

针对小文件，显式指定分片大小为文件本身大小，避免自动分片带来的额外开销，同时完善异常日志：

public FileBo upload(UploadFileTypeEnum uploadFileTypeEnum, UploadFileParam uploadFileParam) {
    // ...
    int retryCount = 2;
    while (retryCount >= 0) {
        try(InputStream inputStream = uploadFileParam.getFile().getInputStream()) {
            long fileSize = uploadFileParam.getFile().getSize();
            minioClient.putObject(PutObjectArgs.builder()
                    .bucket(uploadFileTypeEnum.getBucket().getName())
                    .object(savedPathName)
                    .userMetadata(generateMeta(uploadFileTypeEnum, uploadFileParam))
                    // 小文件直接用文件大小作为分片值，跳过分片逻辑
                    .stream(inputStream, fileSize, fileSize)
                    .build());
            return fileBo;
        } catch (Exception e) {
            retryCount--;
            if (retryCount < 0) {
                log.error("文件上传最终失败，文件名：{}", uploadFileParam.getFile().getOriginalFilename(), e);
                throw new RuntimeException("文件上传失败");
            }
            log.warn("文件上传重试，剩余次数：{}，文件名：{}", retryCount, uploadFileParam.getFile().getOriginalFilename());
            try {
                Thread.sleep(500);
            } catch (InterruptedException ie) {
                Thread.currentThread().interrupt();
            }
        }
    }
    return null;
}

3. 网络层排查 #

• 故障时执行ss -tulpn | grep minio，查看TCP连接状态，是否存在大量TIME_WAIT或CLOSE_WAIT状态的连接
• 检查防火墙、负载均衡设备的空闲连接超时设置，确保其大于客户端配置的keepAliveDuration

4. MinIO日志分析 #

故障时查看MinIO节点日志（默认路径~/.minio/logs），搜索slow request关键字，定位具体的请求阻塞环节

5. 升级客户端版本 #

当前使用的8.5.2版本存在部分连接池与请求处理的已知问题，建议升级到最新稳定版（如8.6.x及以上），修复潜在bug

内容的提问来源于stack exchange，提问作者Joshua