OpenAI函数调用未执行仅输出函数调用语句问题咨询

• 本地模型原生不支持函数调用：LLaMA 2基础版本没有内置函数调用能力，必须使用经过函数调用微调的衍生模型，或者搭配支持函数调用扩展的本地API服务（如带函数调用插件的text-generation-webui、FastChat适配版等）。如果你的本地API只是封装了原生LLaMA 2，它会把函数描述当作普通文本处理，不会触发实际调用。

• OpenAI版本与本地服务不兼容：你使用的openai==0.27.8的函数调用参数格式（functions、function_call字段），可能和本地API服务的预期格式不匹配。部分兼容OpenAI的本地服务仅支持特定版本的参数规范，需要核对服务文档调整参数。

• 函数调用参数配置错误：检查ChatCompletion.create的参数设置：

  • 确认已传入functions参数，且函数描述严格符合OpenAI 0.27.8的规范（必须包含name、description，parameters需遵循JSON Schema格式）。
  • 若未指定function_call为{"name": "get_current_weather"}或"auto"，模型默认会生成文本而非触发函数调用。

• 本地API服务未开启函数调用功能：多数本地LLM的OpenAI兼容服务需要手动启用函数调用支持——比如启动时加载对应插件、在配置中开启功能开关。如果服务本身未激活该功能，即使传入正确参数也会被忽略。

• 提示词缺乏明确引导：对话历史或系统提示词中没有明确告知模型可以通过调用函数获取信息，或者用户提问未明确指向需要调用函数的场景，导致模型选择生成文本而非触发调用。

内容的提问来源于stack exchange，提问作者SkyBest I