在Replit部署FastAPI应用遇端口未开放问题，关联sentence_transformers

问题概述 #

此前稳定运行1个月的FastAPI应用，自2025年1月24日起在Replit生产环境部署失败，报错如下：

2025-01-27T15:54:11Z error: The application must serve traffic on either port 80 (if configured) or the first port in the port configuration. This port was never opened. Check the logs for more information.

本地环境运行正常，注释掉sentence_transformers库的导入及使用代码后，部署可正常完成；回滚该库至3.3.1版本后问题依旧。

当前配置：

main.py #

if __name__ == "__main__":
    uvicorn.run(app, host="0.0.0.0", port=80)

.replit #

run = ["uvicorn", "main:app", "--host", "0.0.0.0", "--reload"]
modules = ["python-3.10:v18-20230807-322e88b"]

hidden = [".pythonlibs"]

[nix]
channel = "stable-23_05"

[deployment]
run = ["sh", "-c", "uvicorn main:app --host 0.0.0.0 --port 80"]
deploymentTarget = "cloudrun"

[[ports]]
localPort = 8000
externalPort = 80

可能的解决方向 #

1. 优化模型加载逻辑，避免启动超时 #

Replit部署存在启动超时限制，如果sentence_transformers加载模型耗时过长，会导致Uvicorn尚未启动端口就被判定为未就绪。可通过以下方式调整：

• 后台线程异步加载模型：将模型初始化逻辑放到后台线程，不阻塞Uvicorn启动：

  from fastapi import FastAPI
  import threading
  from sentence_transformers import SentenceTransformer
  
  app = FastAPI()
  model = None
  
  def load_model():
      global model
      model = SentenceTransformer("your-model-name")
  
  # 启动时后台加载模型
  threading.Thread(target=load_model, daemon=True).start()
  
  @app.get("/")
  def read_root():
      # 确保模型加载完成再处理请求
      while model is None:
          pass
      return {"status": "ready"}
  

• 延迟加载至首次请求：把模型加载逻辑放到第一个接口的处理函数中，首次请求时完成加载。

2. 补充系统依赖 #

Replit的Nix环境可能缺少sentence_transformers运行所需的底层依赖（如OpenBLAS、PyTorch相关库），可在.replit的Nix配置中添加对应包：

[nix]
channel = "stable-23_05"
packages = ["openblas", "python310Packages.pytorch"]

同时在requirements.txt中明确指定兼容版本，避免自动安装不兼容依赖：

torch==2.1.0
sentence-transformers==3.3.1
fastapi==0.104.1
uvicorn==0.24.0.post1

3. 修正端口映射配置 #

当前.replit中localPort为8000，但启动命令指定端口80，可能存在映射冲突。调整端口配置保持一致：

[[ports]]
localPort = 80
externalPort = 80

4. 查看详细启动日志 #

端口未打开的报错可能是应用启动时崩溃的表象，可修改启动命令输出debug级日志，定位sentence_transformers加载时的具体错误：

[deployment]
run = ["sh", "-c", "uvicorn main:app --host 0.0.0.0 --port 80 --log-level debug 2>&1"]

内容的提问来源于stack exchange，提问作者Matteo Siotto