ChatGPT API提示工程问题：微调Curie模型生成聚合产品标题异常

• 微调数据与格式缺陷
  你的微调样本用|分隔多个产品标题，模型可能误将|识别为需要重复输出的格式标记，再加上输入里大量重复的核心标题变体，导致模型学习到了重复生成目标内容的错误模式。另外100条微调数据量偏少，Curie模型需要更多高质量样本明确"聚合去重"的任务逻辑，避免过拟合到重复格式。

• 参数设置逻辑错误

  • presence_penalty=0.6的作用是鼓励生成新主题，但你的任务是聚合已有元素，该参数会迫使模型通过重复核心标题来"制造新内容"，建议将其调低至0。
  • frequency_penalty=0完全没有抑制重复token的机制，这是重复输出的核心原因，建议调高到0.5-1.0，直接限制相同内容的重复生成。
  • temperature=0.6偏高，聚合任务需要精准输出核心标题，建议调低到0.1-0.3，让模型倾向于生成确定性内容，减少随机重复。

• Prompt任务指令优化
  微调时的Prompt需要明确任务定义，避免模型混淆输入格式。可在Prompt开头添加任务指令，示例调整为：

  聚合以下产品标题为核心通用标题：60cm tall Oak Drop Leaf Table|80cm tall Oak Drop Leaf Table|100cm tall Oak Drop Leaf Table|60cm tall Drop Leaf Table Material: Oak with bird design
  

  对应Completion保持Oak Drop Leaf Table不变，让模型清晰理解任务目标。

• 输出约束强化
  调用API时添加stop参数，比如设置"stop" => ["|"]，阻止模型继续生成分隔符和重复标题；同时将max_tokens调整为15，足够容纳目标标题，减少多余生成空间。

内容的提问来源于stack exchange，提问作者user16861522