如何在Vectara响应中添加引用？多语料查询配置后仍失效

问题描述 #

测试Vectara的**Multiple Corpora Query（多语料查询）**功能时，已严格按照官方文档要求在请求载荷中配置引用参数，且逐一测试了文档指定的所有摘要生成器模型：

• mockingbird-1.0-2024-07-16（Vectara Mockingbird LLM）
• vectara-summary-ext-24-05-sml（gpt-3.5-turbo）
• vectara-summary-ext-24-05-med-omni（gpt-4o）
• vectara-summary-ext-24-05-med（gpt-4.0）
• vectara-summary-ext-24-05-large（gpt-4.0-turbo）

但所有测试场景下，响应中均未显示预期的引用内容。

排查步骤 #

1. 验证请求载荷引用配置完整性

   • 确认是否明确设置response_config下的enable_citations: true，同时检查summary_config里的max_summarized_results是否设为大于0的合理数值，该参数决定了最多引用的检索结果条数。
   • 检查corpus_key中的filter或metadata_filter是否过于严格，导致没有匹配到有效文档——无检索结果自然无法生成引用。

2. 检查检索结果有效性

   • 在请求中添加return_source: true参数，查看响应的response_set是否包含实际检索到的文档。若检索结果为空或相关性极低，模型无法生成有效引用。
   • 确认查询语料库中的文档是否包含可被引用的结构化内容（如明确段落、章节），若文档内容零散无意义，模型无法识别可引用片段。

3. 核对模型调用参数细节

   • 确认调用的summarizer模型标识符与文档完全一致，注意大小写和版本号（避免误写标识符）。
   • 检查summary_config中的response_lang是否与文档语言匹配，语言不匹配可能导致模型无法正确提取引用。

4. 查看Vectara控制台日志

   • 登录Vectara控制台进入查询日志页面，查看对应请求的详细日志，确认是否存在参数错误、权限问题或模型调用异常的提示。

内容的提问来源于stack exchange，提问作者Kirti Yadav