Spring Boot服务Jar运行时响应无法流式传输问题排查

问题现象 #

本地VS Code调试启动Spring Boot服务时，向Vue客户端的流式响应正常；但通过java -server -jar xxx.jar命令启动时，服务器日志显示正在逐段输出响应内容，客户端却需等待全部内容生成完毕后才一次性接收全量数据。已排除业务代码问题，聚焦服务配置或Jar运行环境差异。

服务器流式输出日志示例 #

OpenAiController - =====>> Thread Message Delta:  approved
OpenAiController - =====>> Thread Message Delta:  solely
OpenAiController - =====>> Thread Message Delta:  for
OpenAiController - =====>> Thread Message Delta:  the
OpenAiController - =====>> Thread Message Delta:  treatment
OpenAiController - =====>> Thread Message Delta:  of
OpenAiController - =====>> Thread Message Delta:  fa
OpenAiController - =====>> Thread Message Delta: ec
OpenAiController - =====>> Thread Message Delta: al
OpenAiController - =====>> Thread Message Delta: oma
OpenAiController - =====>> Thread Message Delta: ,
OpenAiController - =====>> Thread Message Delta:  several
OpenAiController - =====>> Thread Message Delta:  medications
OpenAiController - =====>> Thread Message Delta:  are
OpenAiController - =====>> Thread Message Delta:  commonly
OpenAiController - =====>> Thread Message Delta:  used
OpenAiController - =====>> Thread Message Delta:  to
OpenAiController - =====>> Thread Message Delta:  manage
OpenAiController - =====>> Thread Message Delta:  the
OpenAiController - =====>> Thread Message Delta:  underlying
OpenAiController - =====>> Thread Message Delta:  constipation
OpenAiController - =====>> Thread Message Delta:  that
OpenAiController - =====>> Thread Message Delta:  can
OpenAiController - =====>> Thread Message Delta:  lead

启动命令对比 #

• 正常运行（VS Code）：

& 'C:\Program Files\Java\jdk-21\bin\java.exe' '-agentlib:jdwp=transport=dt_socket,server=n,suspend=y,address=localhost:62203' '@C:\Users\xxx\AppData\Local\Temp\34\cp_396rcp08t5lealrto29q2ek8w.argfile' 'com.xxx.xxx.xxx' 

• 异常运行（Jar启动）：

nohup java -server -Xms4096m -Xmx4096m -Dfile.encoding=UTF-8 -Dsun.jnu.encoding=UTF-8 -jar /mnt/xxx.jar >/dev/null 2>&1 &

或

java -server -jar /mnt/xxx.jar

排查与解决方案 #

1. 强制关闭响应缓冲 #

Spring Boot在Jar运行模式下可能默认启用响应缓冲，需手动禁用：

• 控制器方法内直接设置：

  response.setBufferSize(0);
  

• 全局配置（application.properties）：

  server.servlet.response.buffer-size=0
  

同时确保返回StreamingResponseBody或SseEmitter等流式响应对象，且每段数据生成后调用flush()推送。

2. 调整JVM启动参数 #

移除-server参数尝试启动，该参数开启的JVM服务器模式可能触发IO优化导致缓冲；若必须保留-server，可添加参数强制关闭输出缓冲：

java -server -Djava.io.tmpdir=/tmp -jar /mnt/xxx.jar

3. 确认HTTP响应头配置 #

确保响应头包含Transfer-Encoding: chunked，且未设置Content-Length（流式响应无法提前确定总长度），可在控制器中手动设置：

response.setHeader("Transfer-Encoding", "chunked");
response.setHeader("Content-Type", "text/event-stream;charset=UTF-8"); // 若为SSE场景

4. 禁用嵌入式容器缓冲 #

根据使用的嵌入式容器调整配置：

• Tomcat：

  server.tomcat.output-buffer-size=0
  server.tomcat.max-swallow-size=-1
  

• Undertow：

  server.undertow.buffer-size=0
  server.undertow.direct-buffers=false
  

5. 检查日志框架缓冲（排除干扰） #

虽然不影响响应流，但日志缓冲可能造成判断混淆，确保日志框架开启即时刷新。以Logback为例，在logback.xml中添加：

<appender name="CONSOLE" class="ch.qos.logback.core.ConsoleAppender">
  <encoder>
    <pattern>%d{HH:mm:ss.SSS} [%thread] %-5level %logger{36} - %msg%n</pattern>
  </encoder>
  <immediateFlush>true</immediateFlush>
</appender>

内容的提问来源于stack exchange，提问作者Philip