如何让微调后的GPT-3.5模型仅基于微调数据集作答？

• 强化指令约束：调用微调模型时，在prompt开头明确给出强约束指令，比如"仅基于我的微调数据集内容作答，若问题不在数据集覆盖范围内，直接回复'无法回答该问题'"，通过明确规则引导模型聚焦微调数据输出。
• 优化微调数据集质量：
  • 确保数据集内的问答对高关联、无歧义，每个问题对应唯一明确的正确答案，剔除表述模糊、答案多样的样本。
  • 增加相似问题的训练样本量，强化模型对问题与答案对应逻辑的记忆，压缩随机输出的空间。
• 调整微调训练参数：
  • 提高训练轮数（n_epochs），默认值为4，可尝试提升至8-12，让模型更充分学习数据集的内在模式。
  • 降低学习率乘数（learning_rate_multiplier），默认值为0.05，可调整到0.02-0.03，避免模型学习过程中出现不稳定或过度拟合的情况。
• 启用置信度过滤：调用模型时设置logprobs=5参数，获取生成内容的概率值，过滤掉概率低于设定阈值的输出，仅保留高置信度的答案结果。
• 结合检索增强生成逻辑：将微调数据集构建成检索库，调用模型前先检索与当前问题匹配的数据集内容，再把检索结果作为上下文传入prompt，强制模型基于检索到的微调数据生成答案。

内容的提问来源于stack exchange，提问作者DangTri