LangChain调用用户创建工具参数异常问题咨询及优化建议求助

问题描述 #

我正在开发一个基于LangChain的简单工具，用于在模拟应用中创建新用户账号，使用的LLM是通过Ollama部署的llama3.1:8b。目前代码可运行，但参数传递可靠性极差：

• 调用创建用户工具时，username参数值格式混乱，有时是正常用户名，有时会带前缀username=（如username=jDoe而非jdoe）
• 创建多个用户时，工具调用行为不一致：有时会正确多次调用，有时仅调用一次并传入数组格式字符串（如['jDoe','jSmith']）

我的问题：

1. 该问题是源于LangChain、llama3.1:8b模型的限制，还是其他原因？
2. 如何让LangChain更可靠地向用户创建工具传递格式正确的username参数？
3. 能否为我这样的初学者提供其他实用建议？

1. 问题根源分析 #

这个问题是LLM输出格式不稳定+LangChain默认工具调用的解析逻辑容错性不足共同导致的：

• llama3.1:8b作为开源模型，在遵循工具调用格式的一致性上，不如闭源大模型（如GPT系列），复杂指令（如批量操作）下容易输出不符合预期的参数格式。
• 你使用的react-chat提示模板对工具参数的格式约束不够明确，没有强制模型输出标准化结构；同时LangChain默认解析逻辑遇到非标准格式时，无法正确转换参数。

2. 解决参数传递可靠性问题的方案 #

通过以下步骤可以彻底解决：

（1）改用StructuredTool替代普通Tool

普通Tool没有明确的参数结构定义，LLM无法准确判断参数格式。StructuredTool可以明确参数类型和描述，引导模型输出标准格式。

（2）优化工具描述，明确参数规则

在工具描述里清晰说明参数要求：比如username必须是纯字符串、不能带前缀、批量创建需逐个调用工具。

（3）添加参数预处理逻辑

在工具函数内部增加格式清洗，即使模型输出异常格式，也能自动修正（比如去除username=前缀、拆分数组字符串）。

（4）使用自定义严格提示模板

强制模型按照指定规则调用工具，避免输出非标准参数。

3. 初学者实用建议 #

• 优先用结构化工具：StructuredTool比普通Tool更适合需要明确参数的场景，大幅降低格式错误概率。
• 加参数校验逻辑：在工具函数里做最后一道防线，清洗异常格式的参数。
• 保持低温度设置：你已经设置temperature=0，这能让模型输出更稳定，减少随机性。
• 分步测试：先单独验证工具函数正确性，再测试LLM调用逻辑，逐步排查问题。
• 拆分批量任务：如果需要批量操作，要么让Agent拆分任务逐个执行，要么自定义批量工具，不要依赖模型自动拆分。

修改后的代码 #

from dotenv import load_dotenv
from langchain.agents import AgentExecutor, create_react_agent
from langchain.tools import StructuredTool
from langchain_core.prompts import ChatPromptTemplate
from langchain_ollama.chat_models import ChatOllama

load_dotenv()

# 模拟用户数据库
mock_user_db = ["jDoe", "jRogers", "jsmith"]

def clean_username(username_input: str) -> str:
    """清洗用户名参数，处理异常格式"""
    # 去除username=前缀
    if username_input.startswith("username="):
        username_input = username_input.split("=", 1)[1].strip()
    # 处理数组格式字符串（批量输入时取第一个，或根据需求修改为批量处理）
    if username_input.startswith("[") and username_input.endswith("]"):
        username_input = username_input.strip("[]").split(",")[0].strip("'\"")
    # 去除多余引号和空格
    username_input = username_input.strip("'\"").strip()
    return username_input

def create_user_tool(username: str):
    username = clean_username(username)
    print("USERNAME PROVIDED FOR CREATION: " + username)
    if username in mock_user_db:
        return f"User {username} already exists."
    mock_user_db.append(username)
    return f"User {username} created successfully."

def delete_user_tool(username: str):
    username = clean_username(username)
    print("USERNAME PROVIDED FOR DELETION: " + username)
    if username not in mock_user_db:
        return f"User {username} does not exist."
    mock_user_db.remove(username)
    return f"User {username} deleted successfully."

def list_users_tool() -> list:
    return mock_user_db

# 使用StructuredTool定义工具，明确参数结构和规则
create_user = StructuredTool.from_function(
    func=create_user_tool,
    name="Create User",
    description="""Creates a new user account in the company HR system.
    参数说明：
    - username: 纯字符串格式的用户名，不能带"username="前缀，例如"jdoe"。
    注意：创建多个用户时，请分别调用该工具多次，每次传入一个用户名，禁止传入数组格式。
    """
)

delete_user = StructuredTool.from_function(
    func=delete_user_tool,
    name="Delete User",
    description="""Deletes an existing user account in company HR system.
    参数说明：
    - username: 纯字符串格式的用户名，不能带"username="前缀，例如"jdoe"。
    """
)

list_users = StructuredTool.from_function(
    func=list_users_tool,
    name="List Users",
    description="Lists all user accounts in company HR system. 无需传入参数。"
)

# 初始化LLM
llm = ChatOllama(model="llama3.1:latest", temperature=0)

# 自定义严格的React提示模板
prompt = ChatPromptTemplate.from_messages([
    ("system", """你是专业的HR系统助手，必须严格遵守以下规则调用工具：
1. 调用工具时必须使用正确的参数格式，完全符合工具描述的要求。
2. 创建多个用户时，必须逐个调用Create User工具，每次仅传入一个纯字符串用户名。
3. 绝对不能在用户名参数中加入"username="前缀，禁止传入数组格式字符串。
4. 先思考清楚步骤，再调用对应工具，输出必须符合规范。"""),
    ("human", "{input}"),
    ("ai", "{agent_scratchpad}")
])

# 创建Agent和执行器
tools = [create_user, delete_user, list_users]
agent = create_react_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, handle_parsing_errors=True)

print(agent_executor.invoke({"input": "Please introduce yourself."})['output'])

while True:
    user_prompt = input("PROMPT: ")
    agent_response = agent_executor.invoke({"input": user_prompt})
    print(agent_response['output'])

内容的提问来源于Stack Exchange，提问作者wtfacoconut