LangChain中create_csv_agent在ChainLit会话内存状态不持久的问题咨询

我正在使用LangChain框架和ChainLit构建文档QA应用，通过create_csv_agent处理CSV文件并生成响应。核心需求是在单一会话的多轮交互中保持一致的内存状态（聊天历史/上下文），但遇到了代理调用间内存状态未按预期持久化的问题。

以下是初始化和调用create_csv_agent的简化代码片段：

memory: ConversationBufferMemory = cl.user_session.get("memory")
agent_executor = create_csv_agent(
    self.model, 
    file, 
    memory=memory, # tried this 
    handle_parsing_errors=True, 
    verbose=True
)

response = agent_executor.invoke(
    user_message.content, 
    memory=memory # and this
)
ai_response.content = response.get("output", "")

我从用户会话中获取ConversationBufferMemory实例并传入create_csv_agent，但后续消息调用中内存状态未得到维持。打印内存时发现它确实包含聊天历史，但未随输入文本传递给模型或代理。

问题 #

1. create_csv_agent未如预期在调用间保留内存状态的具体原因是什么？
2. 有哪些推荐方法或修改方案可确保单一会话内代理多次调用时内存状态持久化？

问题1：内存未生效的核心原因 #

• 重复创建代理实例：每次用户消息触发时都重新调用create_csv_agent生成新的agent_executor，即使传入同一个memory实例，新代理的默认prompt模板未配置聊天历史注入逻辑，导致内存中的历史无法被模型读取。
• invoke传参错误：agent_executor.invoke()方法不需要手动传入memory参数，初始化时已关联内存，手动传入反而可能干扰代理内部的内存处理流程。
• 默认prompt不支持上下文：create_csv_agent的默认prompt是为单轮交互设计的，没有包含chat_history这类内存占位符，因此即使内存中有历史记录，也无法被插入到模型的输入prompt中。

问题2：内存持久化的解决方案 #

方案1：复用agent_executor实例

将初始化后的agent_executor存入ChainLit的user_session，后续交互直接复用，避免重复创建代理：

# 首次初始化时创建并保存代理和内存
if "agent_executor" not in cl.user_session:
    memory = ConversationBufferMemory(memory_key="chat_history", return_messages=True)
    agent_executor = create_csv_agent(
        self.model,
        file,
        memory=memory,
        handle_parsing_errors=True,
        verbose=True
    )
    cl.user_session.set("agent_executor", agent_executor)
    cl.user_session.set("memory", memory)
else:
    agent_executor = cl.user_session.get("agent_executor")

# 调用代理时仅传入用户输入
response = agent_executor.invoke({"input": user_message.content})
ai_response.content = response.get("output", "")

方案2：自定义支持上下文的prompt

如果默认prompt不满足需求，自定义包含聊天历史的prompt模板，确保内存中的历史能被注入：

from langchain.prompts import PromptTemplate

# 自定义带聊天历史的prompt模板
custom_prompt = PromptTemplate(
    input_variables=["chat_history", "input", "agent_scratchpad"],
    template="""
    你是处理CSV数据的助手，请结合以下聊天历史和当前用户问题给出答案：
    聊天历史：{chat_history}
    用户问题：{input}
    请使用提供的工具处理数据并整理结果：
    {agent_scratchpad}
    """
)

# 创建代理时传入自定义prompt
agent_executor = create_csv_agent(
    self.model,
    file,
    memory=memory,
    handle_parsing_errors=True,
    verbose=True,
    prompt=custom_prompt
)

方案3：配置内存的键对应关系

确保ConversationBufferMemory的memory_key与prompt中的占位符一致，同时设置return_messages=True以正确格式化历史消息：

memory = ConversationBufferMemory(
    memory_key="chat_history",
    return_messages=True,
    input_key="input"
)

内容的提问来源于stack exchange，提问作者Harold-debug