如何限制Azure Open AI仅返回自有Blob存储数据的对话结果？

1. 优化认知搜索检索逻辑 #

• 调整检索参数：设置top_k为3-5的合理值，确保仅返回与查询最相关的自有数据片段，避免无关内容进入上下文。
• 启用语义+关键词组合检索：提升匹配精度，减少Blob存储中无关文档被检索出来的概率。
• 添加过滤条件：若Blob数据带有分类标签（如业务领域、文档类型），调用认知搜索时传入过滤参数，仅返回匹配当前查询分类的内容。

2. 严格约束Prompt指令 #

• 在系统prompt中明确要求模型仅基于提供的自有数据片段生成响应，禁止使用外部知识。示例指令：

  你是基于企业自有知识库的聊天机器人，所有回答必须严格来源于给定的参考文档片段，不得使用任何外部信息。若查询内容在参考文档中无匹配结果，请直接告知"无法找到相关信息"。

• 用明确分隔符（如---参考数据---）将检索到的自有数据片段插入用户prompt前，让模型清晰识别可使用的内容范围。

3. 调整GPT-35-Turbo调用参数 #

• 设置temperature=0：降低模型创造性，使其严格遵循上下文生成结果，减少发散性输出。
• 启用presence_penalty或frequency_penalty：抑制模型引入外部无关话题，强化对给定上下文的依赖。

4. 增加响应内容验证机制 #

• 在返回结果前添加校验逻辑：将生成的响应与检索到的自有数据片段做相似度匹配（如余弦相似度、关键词匹配），若响应包含大量未在自有数据中出现的核心信息，直接拦截并返回"无法找到相关信息"。
• 使用认知搜索问答模式：让认知搜索直接生成基于自有数据的答案片段，再传给GPT-35-Turbo做润色，进一步缩小模型发挥空间。

5. 排查数据源同步问题 #

• 检查Blob到认知搜索的索引同步任务，确保索引内容最新且符合预期，避免混入无关数据。
• 手动验证检索结果：触发典型查询，确认返回的认知搜索结果全部属于自有数据范围，排除检索逻辑导致的无关内容引入。

内容的提问来源于stack exchange，提问作者Sambit