Docker部署FastAPI+Ray应用 容器启动后Ray实例自动退出

• Dockerfile中ENTRYPOINT与CMD的组合逻辑错误：exec格式的ENTRYPOINT会将CMD的所有内容作为追加参数传入启动命令，最终容器实际执行的是ray start --head .venv/bin/python serve_with_fastapi.py，ray start命令不会识别、执行后续传入的Python脚本路径参数，你的FastAPI服务脚本自始至终没有被运行。
• ray start --head默认采用后台启动模式：命令执行完成后仅将Ray集群相关进程放到后台运行，启动命令本身会正常退出返回状态码0。Docker容器的生命周期与PID 1前台进程绑定，当作为PID 1的ray start进程退出后，容器会直接终止，和日志中显示的现象完全一致。
• 运行配置存在隐患：日志已提示容器内/dev/shm空间不足，Ray依赖共享内存实现对象存储，空间过小会导致后续服务性能下降甚至进程异常崩溃。

1. 修正Dockerfile的启动配置，删除原有ENTRYPOINT和CMD两行，替换为以下内容，保证启动顺序正确且有前台进程持续运行：

# 配置Ray dashboard允许外部访问，启动Ray后运行服务脚本
ENTRYPOINT ["/bin/bash", "-c"]
CMD ["ray start --head --dashboard-host 0.0.0.0 && .venv/bin/python serve_with_fastapi.py"]

可选优化：如果你的服务基于Ray Serve实现，可直接在Python脚本中通过ray.init(address="local")自动启动本地Ray实例，无需手动执行ray start，启动命令直接写为运行Python脚本即可，配置更简洁。

2. 启动容器时增加共享内存参数，解决空间不足问题，--shm-size建议设置为容器可用内存的30%以上：

docker run -d -p 8888:8888 -p 8265:8265 --shm-size=2g nlp:latest

3. （可选）清理Dockerfile中的冗余配置：你重复写了两次COPY . .、两次ENV PYTHONDONTWRITEBYTECODE 1，重复配置不影响运行但会增加维护成本，可直接删除重复行。

内容的提问来源于stack exchange，提问作者Abdel-Hakim Abousrea