基于LangChain构建自定义文档处理Agent的API部署问题求助

问题根源 #

API后端默认是无状态架构，每次请求过来都会新建一个Sales Agent实例，之前的对话上下文、处理阶段全丢了，自然没法维持循环交互。

解决方案 #

1. 给Agent加会话状态持久化 #

用Redis、数据库或者内存缓存来存Agent的状态（对话历史、当前处理阶段、文档上下文这些）。每个用户请求带唯一的会话ID，后端通过ID加载对应状态，处理完再更新存储。

举个Redis实现的代码片段：

import redis
from langchain.agents import AgentExecutor
from langchain.memory import ConversationBufferMemory

# 初始化Redis连接
redis_client = redis.Redis(host='localhost', port=6379, db=0)

def get_agent(session_id):
    # 从Redis拉取已有Agent状态
    stored_state = redis_client.get(f"agent_{session_id}")
    if stored_state:
        # 反序列化恢复Agent和对话内存
        agent, memory = deserialize_state(stored_state)
    else:
        # 新建Agent和内存（对应你基于SalesGPT的自定义逻辑）
        memory = ConversationBufferMemory(memory_key="chat_history")
        agent = build_custom_doc_agent(memory)
    return agent, memory

def save_agent(session_id, agent, memory):
    # 序列化状态并存入Redis，设置1小时过期
    serialized_state = serialize_state(agent, memory)
    redis_client.set(f"agent_{session_id}", serialized_state, ex=3600)

2. 把本地循环逻辑改成API交互模式 #

原SalesGPT是本地交互式循环，API里得改成单步交互：

• 接收用户输入+会话ID
• 加载对应Agent状态
• 运行Agent处理当前输入
• 返回响应，同时更新存储的Agent状态
• 在响应里标记是否需要继续交互（比如Agent还需要用户补充信息）

3. 直接用LangChain自带的持久化工具 #

LangChain有现成的Redis对话历史存储工具，省得自己写序列化：

from langchain.memory import RedisChatMessageHistory

def get_chat_history(session_id):
    return RedisChatMessageHistory(session_id=session_id, url="redis://localhost:6379/0")

注意点 #

• 会话ID要唯一且安全，别让不同用户的状态串了
• 定期清过期会话，别占存储资源
• 多测几轮交互，确认状态恢复没问题

内容的提问来源于stack exchange，提问作者Suresh Kumar