Langchain聊天代理无法生成要点式视频摘要问题求助

问题原因 #

• 提示词精度不足：简短的格式指令容易被LLM忽略，尤其是在代理需要先调用工具获取视频内容、再生成摘要的流程中，格式要求没有被有效传递到最终生成环节。
• 代理默认模板未强化格式规则：CHAT_CONVERSATIONAL_REACT_DESCRIPTION类型的代理，其默认系统提示聚焦于对话逻辑与工具调用，未内置格式强制要求，导致代理优先保证内容完整性，而非格式合规性。

解决方案 #

1. 优化提示词，明确格式要求 #

将提示词写得更具体，强制要求要点格式，示例：

prompt = """请将指定YouTube视频的内容总结为要点式文本：
- 每个要点以"- "开头
- 每个要点仅包含一个核心信息
视频链接：https://www.youtube.com/watch?v=n2Fluyr3lbc"""

2. 自定义代理系统提示模板 #

将格式要求嵌入代理的系统提示，确保整个思考生成流程都遵循规则，示例代码：

from langchain.agents import AgentType, initialize_agent
from langchain.prompts import ChatPromptTemplate, MessagesPlaceholder

# 自定义系统提示，加入格式强制规则
system_prompt = """你是专业内容摘要助手，最终输出必须是用"- "开头的要点列表，每个要点对应一个独立核心信息。
你需要先调用工具获取视频内容，再严格按照格式要求生成摘要。"""

# 构建自定义prompt模板
prompt = ChatPromptTemplate.from_messages([
    ("system", system_prompt),
    MessagesPlaceholder(variable_name="chat_history"),
    ("user", "{input}"),
    MessagesPlaceholder(variable_name="agent_scratchpad")
])

# 初始化代理时传入自定义模板
agent = initialize_agent(
    agent=AgentType.CHAT_CONVERSATIONAL_REACT_DESCRIPTION,
    tools=tools,
    llm=llm,
    verbose=True,
    max_iterations=3,
    early_stopping_method='generate',
    memory=memory,
    agent_kwargs={"prompt": prompt}
)

3. 验证工具输出的传递逻辑 #

确保提取YouTube视频内容的工具返回清晰结构化文本，避免因工具输出过于杂乱导致LLM无法识别格式要求。若工具返回的是长文本，可在工具内部先做初步拆分，再传递给代理处理。

内容的提问来源于stack exchange，提问作者Ayyaz Zafar