OpenAI模型技术问询：davinci与text-davinci-003的差异及响应优化

一、davinci与text-davinci-003的核心差异 #

• 定位与训练方向：davinci是GPT-3系列的基础通用模型，面向开放式文本生成场景；text-davinci-003是基于davinci进行指令微调后的模型，专门优化了对自然语言指令的理解和执行能力，更适配任务型需求。
• 指令遵循能力：davinci对模糊指令的响应容易偏离需求，输出更偏向发散性文本；text-davinci-003能精准捕捉用户指令中的细节，输出更贴合任务要求，在摘要、问答、代码生成等结构化任务中表现更稳定。
• 训练数据补充：两者基础训练数据截止时间均为2020年10月，但text-davinci-003额外加入了大量指令-输出配对的微调数据，使其更熟悉人类指令逻辑。
• 性能表现：底层参数规模一致，但text-davinci-003通过微调降低了无关输出概率，复杂任务的准确率和相关性显著高于davinci。

二、优化响应匹配ChatGPT输出效果的方法 #

• 明确指令细节：在prompt中指定输出格式、语气、内容范围，例如："请以分点形式总结以下技术文档，语言简洁正式，每个要点不超过30字：[文档内容]"
• 提供示例引导：在prompt中加入1-2组符合预期的输入输出示例，让模型学习目标风格，示例格式如下：

  输入：解释什么是RESTful API
  输出：RESTful API是基于REST架构的Web服务接口，通过HTTP方法实现资源的增删改查，具有无状态、可缓存等特性。
  
  现在请解释什么是GraphQL：
  

• 调整温度参数：将temperature设置为0.2-0.5（默认值为1.0），降低输出随机性，让结果更聚焦、一致；若需要高度匹配ChatGPT的确定性，可将温度设为0.1。
• 设定系统角色：在prompt开头添加系统级提示，定义模型的角色和输出准则，例如："你是资深技术答疑专家，回答需准确、逻辑清晰，避免冗余表述，优先使用结构化形式呈现内容。"
• 控制输出长度：通过max_tokens参数限制输出篇幅，根据任务类型设置合理数值，比如问答类任务设置为200-500，确保输出聚焦核心内容。
• 迭代修正prompt：若首次输出不符合预期，基于现有结果补充指令引导模型优化，例如："刚才的回答缺少具体应用场景，请补充每个特性对应的实际使用案例。"

内容的提问来源于stack exchange，提问作者Waly