配置Azure OpenAI部署参数以匹配公开版ChatGPT设置

OpenAI并未公开ChatGPT的精确运行参数，但行业内总结了一套与公开版体验高度接近的Azure OpenAI配置方案，具体参数设置如下：

• 上下文历史消息数量：公开版ChatGPT基于GPT-3.5-turbo系列模型，支持4k/16k/32k三种上下文窗口。Azure部署时需选择对应上下文长度的模型（如gpt-35-turbo-16k），对话中需自行管理历史消息，确保总token数不超过所选模型的上下文上限（4k版约对应3000汉字，16k版约对应12000汉字）。
• temperature（温度）：设置为0.7，这个值能平衡回答的随机性与一致性，和公开版ChatGPT的风格匹配。
• 最大响应长度（max_tokens）：默认设置为1024，也可根据剩余上下文空间动态调整，但不能超过模型剩余的token额度。
• top-p值：设置为1.0，即保留所有token的概率分布，不做截断处理。
• frequency penalty（频率惩罚）：设置为0.0，不刻意抑制重复内容，依赖模型内部逻辑控制重复率。
• presence penalty（存在惩罚）：设置为0.0，不强制引入新话题，维持对话的连贯性。

注：以上为近似配置，实际体验可能因模型版本略有差异，Azure部署时需选用与公开版ChatGPT对应的GPT-3.5-turbo系列模型。

内容的提问来源于stack exchange，提问作者Ash3060