关于在LangChain Agent中实现Router Chains的技术问询

一、MultiPromptChain的Router Chains是否适配需求 #

是的，MultiPromptChain中的Router Chains完全匹配你的需求——它的核心逻辑就是根据输入的问题类型、主题，自动路由到对应的子链（比如数学计算链、百科查询链）处理，刚好能实现你“高效路由输入到不同子链获取响应”的诉求。

二、在Agent中集成路由概念的实现建议 #

1. 先构建Router Chain（MultiPromptChain） #

先定义不同场景的子链与专属提示模板，再通过RouterChain完成路由判断：

from langchain.chains.router import MultiPromptChain
from langchain.chains.router.llm_router import LLMRouterChain, RouterOutputParser
from langchain.prompts import PromptTemplate
from langchain.chains import LLMChain

# 定义不同场景的提示模板
math_template = """你是数学计算专家，直接给出计算结果：
问题：{input}
答案："""
wiki_template = """请结合维基百科工具的信息回答问题：
问题：{input}
答案："""

prompt_infos = [
    {
        "name": "math",
        "description": "处理纯数学计算问题，比如加减乘除、简单代数运算",
        "prompt_template": math_template
    },
    {
        "name": "wikipedia",
        "description": "处理需要外部知识查询的问题，比如人物生平、事件背景、常识类内容",
        "prompt_template": wiki_template
    }
]

# 创建对应子链
chain_map = {}
for info in prompt_infos:
    prompt = PromptTemplate(template=info["prompt_template"], input_variables=["input"])
    chain = LLMChain(llm=llm, prompt=prompt)
    chain_map[info["name"]] = chain

# 构建路由链的提示与解析器
router_template = """根据用户问题判断应使用的处理链：
{input}
严格按以下格式输出：
{{"destination": "目标链名称", "next_inputs": {{"input": "用户原始问题"}}}}"""
router_prompt = PromptTemplate(template=router_template, input_variables=["input"])
router_chain = LLMRouterChain.from_llm(llm, router_prompt, RouterOutputParser())

# 创建MultiPromptChain
multi_prompt_chain = MultiPromptChain(
    router_chain=router_chain,
    destination_chains=chain_map,
    default_chain=chain_map["wikipedia"],  # 无法判断时的默认处理链
    verbose=True
)

2. 将Router Chain包装为Agent的工具 #

把构建好的multi_prompt_chain封装成Tool，让Agent可以调用它：

from langchain.tools import Tool

router_tool = Tool(
    name="Router Chain",
    func=multi_prompt_chain.run,
    description="自动识别问题类型，将数学计算类问题路由到数学链，将知识查询类问题路由到维基百科相关逻辑"
)

# 更新工具列表
tools = [router_tool, wikipedia_tool]

# 重新初始化Agent
zero_shot_agent = initialize_agent(
    agent="zero-shot-react-description",
    tools=tools,
    llm=llm,
    verbose=True,
    handle_parsing_errors=True,
    max_iterations=10,
)

3. 修正Agent调用方式 #

你现有代码存在语法错误与逻辑冗余，正确调用方式应为：

# 直接传入问题字符串
response = zero_shot_agent.run("what is 2+2")
# 或字典格式传入
response = zero_shot_agent({"input": "what is 2+2"})

注意：无需先通过chain.run处理问题再传给Agent，应让Agent直接接收原始问题，由它判断是否调用Router Chain。

4. 优化路由准确率的关键点 #

• 给每个子链的description写得更精准，比如明确数学链“仅处理纯数值计算，不处理数学概念解释”，减少LLM路由判断的歧义；
• 调整Router Prompt模板，补充更明确的判断规则，比如让LLM先检查问题是否包含计算符号、数值运算需求，再决定路由方向；
• 测试不同LLM的路由表现，Mixtral-8x7b在多任务判断上表现较好，可通过微调提示模板进一步提升准确率。

内容的提问来源于stack exchange，提问作者Jyoti yadav