http4s发送请求后优雅Shutdown耗时30秒问题咨询

问题原因 #

你遇到的现象是Ember服务器默认的连接管理和优雅关闭策略导致的：

• HTTP连接默认启用keep-alive，空闲连接会保持30秒才关闭，这就是关闭耗时久的核心原因。
• 优雅关闭阶段，服务器默认不会立即拒绝新请求，而是会继续处理已建立连接上的新请求，直到空闲连接超时。

解决方案 #

通过调整EmberServerBuilder的参数，自定义优雅关闭行为，解决超时和继续处理请求的问题：

关键配置说明 #

• 缩短空闲连接超时：让空闲的keep-alive连接更快释放，减少关闭时的等待时长
• 自定义优雅关闭超时：控制服务器关闭的最大等待时间，到点后强制关闭剩余连接
• 关闭阶段拒绝新连接：让服务器在启动关闭流程后，不再接受新连接，只处理已有的请求

修改后的代码示例 #

import org.http4s.ember.server.EmberServerBuilder
import org.http4s._
import org.http4s.dsl.io._
import cats.effect.{IO, IOApp, Async, Network}
import scala.concurrent.duration._

object Main extends IOApp.Simple {
  val helloWorldService = HttpRoutes.of[IO] {
    case GET -> Root / "hello" / name =>
      Ok(s"Hello, $name.")
  }.orNotFound

  def server[F[_] : Async : Network]: EmberServerBuilder[F] = {
    EmberServerBuilder
      .default[F]
      .withHost(ipv4"0.0.0.0")
      .withPort(port"8000")
      // 将空闲连接超时设为5秒（默认30秒）
      .withIdleTimeout(5.seconds)
      // 设置服务器关闭的最大等待时间为10秒
      .withShutdownTimeout(10.seconds)
      // 优雅关闭逻辑：先给2秒处理现有请求，再等8秒关闭空闲连接，总和不超过shutdownTimeout
      .withGracefulShutdown(gracePeriod = 2.seconds, timeout = 8.seconds)
  }

  def run: IO[Unit] = {
    server[IO]
      .withHttpApp(helloWorldService)
      .build
      .use(_ => IO.never)
  }
}

补充细节 #

• withIdleTimeout：控制空闲的keep-alive连接多久后被主动关闭，缩短这个值能直接减少关闭时的等待时间。
• withShutdownTimeout：服务器发起关闭流程后，最多等待此时长就强制终止所有剩余连接，避免无限等待。
• withGracefulShutdown的两个参数：gracePeriod是允许正在处理的请求完成的缓冲时间，timeout是等待空闲连接关闭的时间，二者总和建议不超过withShutdownTimeout的值。

修改后，发送请求再执行优雅关闭时，等待时长会大幅缩短，且关闭阶段不会再处理新的请求。

内容的提问来源于stack exchange，提问作者modo_lv