如何计算含缓存输入令牌的OpenAI响应总成本？

核心计费逻辑 #

• 不需要从Usage中的「输入令牌数」里扣除「缓存输入令牌数」，二者为独立计费项：
  • 「缓存输入令牌」是OpenAI对复用内容的优惠计价类别，会单独统计并按更低费率收费；
  • 原始返回的「输入令牌数」包含了缓存部分，不会自动扣除，需拆分计算非缓存输入（总输入-缓存输入）和缓存输入的费用，再加上输出令牌费用得到总成本。

给定数值的总成本计算 #

各部分费用计算 #

• 非缓存输入令牌费用：(1204 - 1024) × (0.150 / 1000000) = 0.000027$
• 缓存输入令牌费用：1024 × (0.075 / 1000000) = 0.0000768$
• 输出令牌费用：12 × (0.600 / 1000000) = 0.0000072$

总费用 #

将三部分相加：0.000027 + 0.0000768 + 0.0000072 = 0.000111$

内容的提问来源于stack exchange，提问作者dmm-l-mediehus