在Django项目中保持深度学习模型常驻内存

核心思路 #

将模型加载到全局作用域或Django的AppConfig中，让模型在服务启动时一次性加载完成，后续所有请求直接复用已加载的模型，避免每次请求都重新加载、释放的开销。

具体实现方法 #

方法1：通过Django AppConfig加载模型 #

1. 在目标Django应用的apps.py文件中，重写ready()方法完成模型初始化：

from django.apps import AppConfig
import your_model_module  # 替换为你的模型模块路径

class YourAppConfig(AppConfig):
    default_auto_field = 'django.db.models.BigAutoField'
    name = 'your_app_name'  # 替换为你的应用名称
    model = None  # 定义全局模型变量

    def ready(self):
        # 服务启动时加载模型到内存
        self.model = your_model_module.load_your_model()  # 替换为你的模型加载函数

2. 在应用目录的__init__.py中指定自定义的AppConfig：

default_app_config = 'your_app_name.apps.YourAppConfig'

3. 在API视图中调用已加载的模型：

from django.apps import apps
from rest_framework.views import APIView
from rest_framework.response import Response

class ModelInferenceView(APIView):
    def post(self, request):
        app_config = apps.get_app_config('your_app_name')
        model = app_config.model
        # 用模型处理请求数据
        inference_result = model.predict(request.data)
        return Response({'result': inference_result})

方法2：在视图模块的全局作用域加载模型 #

直接在API视图所在的.py文件顶部加载模型，模块导入时会自动完成模型初始化，后续请求直接调用：

# views.py
import your_model_module
from rest_framework.views import APIView
from rest_framework.response import Response

# 全局加载模型，服务启动时执行
model = your_model_module.load_your_model()

class ModelInferenceView(APIView):
    def post(self, request):
        # 直接使用已常驻内存的模型
        inference_result = model.predict(request.data)
        return Response({'result': inference_result})

Windows Server 2019部署注意事项 #

• 若用IIS部署：修改应用程序池的空闲超时时间为0（永不超时），防止IIS自动回收进程导致模型被释放。操作路径：IIS管理器 → 应用程序池 → 目标池 → 高级设置 → 空闲超时（分钟）设为0。
• 若用Django自带runserver（仅测试场景）：保持服务启动的控制台窗口处于打开状态，关闭窗口会终止进程并释放模型。生产环境建议搭配Gunicorn+IIS或uWSGI部署。
• 内存监控：通过任务管理器查看模型占用的RAM，确认是否常驻。若模型过大导致内存不足，可考虑优化模型结构或升级服务器内存。

内容的提问来源于stack exchange，提问作者Hassan Ali