核心原因拆解 #

1. 函数调用提示词约束不足 #

phi4-mini作为小型模型，对格式指令的敏感度远低于大模型。如果系统提示未明确以下规则，极易输出混乱内容：

• 未强制限定仅在需要数据库数据时调用指定函数，模型可能随意生成无关文本
• 未明确要求函数调用必须以严格JSON格式输出，且禁止混入自然语言描述
• 未定义错误兜底规则（如格式错误时需重新输出符合要求的调用指令）

2. 工具元数据定义不严谨 #

Microsoft.Extensions.AI中工具的元数据是模型判断是否调用、如何调用的核心依据，常见问题包括：

• 函数Description模糊（如仅写“查询数据”而非“查询指定股票代码的历史收盘价”）
• 参数Type未明确（如未标注股票代码为string类型）、Description缺失，导致模型无法生成合法参数
• 未设置参数的IsRequired属性，模型可能遗漏必填参数引发后续错误

3. 输出解析逻辑缺失容错处理 #

phi4-mini常输出混合内容（自然语言+残缺JSON+乱码），若代码未做预处理：

• 直接解析非纯JSON内容会抛出异常，错误栈信息可能被返回给用户
• 未添加JSON片段提取逻辑（如匹配{和}包裹的内容），导致无效内容进入后续流程

4. 上下文管理超出模型阈值 #

phi4-mini的上下文窗口仅约4k tokens，若对话历史未做截断：

• 累积的冗余上下文会挤占函数调用指令的空间，导致模型输出混乱
• 未过滤已完成的函数调用结果，重复上下文会干扰模型判断

5. 模型本身能力局限性 #

小型模型的函数调用泛化能力较弱，对复杂金融场景的指令理解不足：

• 无法准确判断何时需要调用函数，何时直接回答
• 对多参数函数的参数映射容易出错，生成无意义的调用内容

遗漏实现要点检查 #

1. 工具绑定配置：确认ChatCompletionService是否在每次请求时都传入了完整的工具元数据，而非仅初始化时绑定
2. 调用选项设置：检查是否启用了FunctionCallOptions，并明确指定AllowedFunctions，避免模型调用未定义的函数
3. 流式输出处理：若使用流式响应，需完整拼接所有输出片段后再解析JSON，避免中途解析残缺内容
4. 异常捕获机制：在函数调用解析、数据库查询环节添加异常捕获，将错误转换为模型可理解的提示（如“参数格式错误，请重新生成合法的股票代码”），而非直接返回原始错误栈
5. 上下文截断策略：实现基于token数的上下文截断，仅保留最近3-5轮对话及有效函数调用历史

内容的提问来源于stack exchange，提问作者E.Benedos