基于RAG的自定义AI聊天机器人：非问题类输入识别优化问询

1. 前置规则匹配+轻量意图分类 #

• 先构建高频非问题类语料规则库，包含问候（hi/hello）、致谢（thank you/thanks）、确认（ok/got it）等词汇/短句，匹配到后直接返回预设的自然回复（无需调用API），或仅调用一次大模型生成闲聊式响应。
• 针对规则覆盖不到的模糊输入，用轻量文本分类模型（如微调BERT-base、或利用大模型零样本分类能力）快速判断输入类型：是「需要基于文档检索的查询」还是「闲聊/非查询类对话」。分类结果为后者时，直接走单次API生成回复，跳过RAG的检索+二次调用流程。

2. 整合意图判断与响应的单步API调用 #

修改大模型的prompt指令，将意图识别和响应生成合并为一次调用，示例prompt：

请先判断用户的输入是否属于需要基于已上传文档内容回答的信息查询：
1. 如果是查询类内容，请结合对话历史改写问题，基于文档上下文生成准确回答；
2. 如果是问候、致谢、确认等非查询类对话，请直接生成自然的日常回复，无需关联文档内容。

用户当前输入：{user_input}
对话历史：{conversation_history}

这种方式无需额外的前置分类步骤，通过一次API调用完成意图判断+响应，同时避免非问题类输入触发RAG流程。

3. 对话状态跟踪优化 #

维护对话状态标记，记录每一轮对话的类型（「闲聊」/「文档查询」）：

• 若上一轮为「闲聊」，当前用户输入仍为非问题类时，直接延续闲聊逻辑，调用单次API生成回复；
• 若上一轮为「文档查询」，用户输入为确认类语句（如ok），可生成简单的跟进回复（如"Got it! Let me know if you have more questions about your documents."），无需触发检索流程。

额外优化点 #

• 对于明确的非问题类输入，优先使用预设回复库，完全跳过API调用，进一步提升响应速度；
• 定期收集用户的非问题类输入，补充到规则库或分类模型的训练数据中，提升判断准确率。

内容的提问来源于stack exchange，提问作者Anni