OpenAI API微调模型调用报404错误，如何正确生成文本？

错误原因清晰：你用了聊天模型专属的v1/chat/completions接口，但你微调的是基础文本生成模型（如davinci、curie等非GPT-3.5/4系列聊天模型），这类模型不支持该接口，必须改用v1/completions接口。

修改后的调用代码 #

const response = await openai.completions.create({
    model: process.env.FINE_TUNE_MODEL,
    // 按微调训练数据的格式，拼接system提示和用户输入
    prompt: `${prompt}\n${inputText}`,
    temperature: 0,
    top_p: 1,
    frequency_penalty: 0,
    presence_penalty: 0,
    // 可选：控制生成文本的最大长度
    max_tokens: 200
});

// 获取生成的结果文本
const generatedText = response.choices[0].text.trim();

关键注意事项 #

• prompt格式必须匹配：调用时的prompt结构要和你微调训练数据里的格式完全一致。比如训练时用的是指令：XXX\n输入：XXX的格式，调用时也要保持相同结构，否则模型生成效果会大幅下降。
• 接口参数差异：completions接口没有messages参数，直接用prompt传入输入内容；返回结果的结构也和聊天接口不同，生成文本在response.choices[0].text字段中。

内容的提问来源于stack exchange，提问作者Denis Prosvietov