部署在IIS的LangChain+GPT4All RAG Pipeline API遇权限拒绝错误

问题描述 #

本地Django环境中基于LangChain+GPT4All搭建的RAG Pipeline运行正常，但部署到IIS服务器后，调用RAG时触发权限拒绝错误，无法在系统配置文件目录创建模型下载目录，具体报错：

Error getting: Permission Error
Root Cause: Unable to create model download directory in system profile. Access denied to 'C:\Windows\system32\config\systemprofile.cache'

环境信息：

• Python版本：3.12
• 操作系统：Windows
• 核心依赖包：langchain、gpt4all、pydantic

尝试设置TIKTOKEN_CACHE_DIR环境变量指定缓存路径，但无效。

解决方案 #

1. 明确问题根源 #

报错是因为GPT4All自动下载模型时，默认使用系统级缓存目录（C:\Windows\system32\config\systemprofile\.cache），而IIS应用池的运行账户没有该目录的读写权限。你之前设置的TIKTOKEN_CACHE_DIR是控制OpenAI tiktoken库的缓存路径，和GPT4All的模型存储无关，因此无法解决问题。

2. 指定GPT4All模型的本地存储路径 #

有两种方式可避开系统缓存目录：

方式一：手动下载模型并指定路径

先手动将GPT4All模型文件下载到Django项目目录下的专属文件夹（比如./models），然后在初始化GPT4All模型时直接指定该路径：

import os
from langchain.llms import GPT4All

# 项目内的模型存储路径
model_path = os.path.join(os.path.dirname(__file__), "models", "你的模型文件名.bin")
llm = GPT4All(model=model_path, model_type="对应模型类型")

方式二：设置GPT4All全局缓存环境变量

在代码中设置GPT4ALL_MODEL_DIR环境变量，指定一个IIS有权限访问的目录，让GPT4All自动下载模型到该目录：

import os
# 设置为项目内的专属缓存目录
os.environ["GPT4ALL_MODEL_DIR"] = os.path.join(os.path.dirname(__file__), "gpt4all_cache")
# 之后正常初始化GPT4All即可
from langchain.llms import GPT4All
llm = GPT4All(model="你的模型名称", model_type="对应模型类型")

3. 配置IIS应用池权限 #

确保IIS应用池的运行账户对你指定的模型目录有读写权限：

• 打开IIS管理器，找到目标网站对应的应用池，右键选择「高级设置」；
• 在「进程模型」→「标识」中，选择具备目标目录读写权限的账户：
  • 测试环境可临时使用「本地系统」（生产环境不推荐，权限过高）；
  • 生产环境建议创建专用服务账户，为其分配Django项目目录和模型存储目录的读写权限；
• 重启应用池使权限生效。

内容的提问来源于stack exchange，提问作者Ubaid Ali Khan