如何减少向ChatGPT API发送的上下文Token数量以降低成本？

• 提炼核心上下文摘要：每次发起新请求前，将过往对话的核心信息提炼成简短摘要，仅携带该摘要+最新问题，替换完整对话历史。比如把关于《百年孤独》家族人物的多轮讨论，浓缩为“此前围绕《百年孤独》布恩迪亚家族三代人物命运展开讨论，重点涉及奥雷里亚诺上校的战争经历与家族循环宿命”，再附加当前新问题。
• 固定基础背景复用：把书籍的通用核心信息（书名、作者、核心设定）整理成固定片段，每次请求仅携带该固定片段+最新一轮的用户问题与AI回复，无需发送全部历史对话。例如固定片段：“讨论书籍为《百年孤独》，作者加西亚·马尔克斯，故事围绕布恩迪亚家族七代人的兴衰与循环命运展开”，后续仅补充最新互动内容。
• 截断无关历史对话：手动或通过简单逻辑实现对话历史截断，只保留最近3-5轮与当前问题强相关的内容，舍弃无关的早期对话；也可利用API的参数配置，让模型自动优先处理关键上下文。
• 结构化关键信息：用简洁的结构化格式标记核心内容，比如用[人物]、[情节]标签梳理关键信息，减少冗余描述。例如：[人物]奥雷里亚诺上校：参与多次内战，晚年沉迷制作小金鱼；[情节]家族成员重复同名与相似命运，替代冗长的自然语言叙述。
• 规避重复信息发送：若之前已发送过书籍基础设定、某一关键情节等信息，后续对话中不再重复发送，仅在需要补充新的关联信息时添加。

内容的提问来源于stack exchange，提问作者CDN