如何向OpenAI模型同时提供基准事实（Ground Truth）与问答示例？

1. 采用检索增强生成（RAG）架构（核心方案） #

这是处理大规模基准事实文档的最优路径，无需将所有文档直接用于模型训练：

• 先对数千篇维基百科文章做预处理：分割成200-500词的短文本片段，用OpenAI的嵌入模型（如text-embedding-ada-002）将每个片段转为向量，存入向量数据库（如Azure认知搜索、Pinecone）。
• 用户提问时，先把问题转为向量，在向量数据库中检索最相关的文档片段，将这些片段、问题以及你的问答示例一起放入模型Prompt，引导模型仅基于检索到的内容生成符合格式的回答，无对应内容时回复“不知道”。

2. 微调+RAG组合（适配特定格式） #

如果需要模型更精准贴合你的输出格式，可搭配少量数据集微调：

• 准备微调数据集：每条数据包含「问题」「对应基准事实片段」「符合格式的回答/“不知道”」，让模型先学习你的输出规则和判断逻辑。
• 实际调用时仍通过RAG检索相关片段，再交由微调后的模型生成回答。

3. 纯Prompt约束（快速验证） #

无需微调也能实现需求，关键是设计明确的Prompt指令：

• 在Prompt开头明确规则：“仅基于下方提供的参考文档内容回答问题，若无法从参考内容中找到对应答案，请直接回复‘不知道’，回答需严格遵循[你的指定格式]”。
• 在Prompt中附上检索到的相关文档片段，再添加2-3组示例问答（需覆盖能回答和“不知道”两种场景），引导模型对齐预期行为。

内容的提问来源于stack exchange，提问作者JulienBr