OpenAI text-davinci-003仅返回单个建议?Node.js多建议获取咨询
问题原因及解决办法
你当前只得到单个结果的核心原因是未设置n参数,同时temperature: 0的配置也会限制结果多样性。
n是OpenAI Completion接口用来指定生成结果数量的配置项,默认值为1,所以接口只会返回1条结果。如果需要多条建议,必须显式设置n为你想要的数量(比如3、5)。- 你设置的
temperature: 0会让模型生成完全确定、无随机性的内容,就算设置了n>1,返回的多条结果也会几乎完全重复,无法得到多样化的建议。建议将temperature调整到0.5-1.0之间,平衡随机性和结果质量。
修改后的代码示例:
const completion = await openai.createCompletion({ model: complitionModel, prompt: `${finalCommand}: ${text}`, max_tokens: 256, temperature: 0.7, // 调高温度增加结果多样性 top_p: 1, frequency_penalty: 0, presence_penalty: 0, user: user.id, n: 3 // 指定生成3条结果 });
修改后,接口返回的completion.data.choices就会是包含3个元素的数组,每个元素对应一条独立的建议。
内容的提问来源于stack exchange,提问作者Wings
相关产品推荐
相关产品推荐

