MERN项目调用ChatGPT API出现Axios 429错误，求解决方案

错误原因 #

429状态码表示请求触发了OpenAI API的调用频率或配额限制，常见原因包括：

• 超出账号设定的每分钟/每秒请求次数上限
• API密钥的免费额度或付费配额已耗尽
• 短时间内同一IP或密钥发起了过量请求

具体解决方法 #

1. 核查API配额与限制 #

• 登录OpenAI后台查看账号API使用情况，确认是否耗尽配额，同时核对模型的请求频率限制（比如gpt-3.5-turbo-instruct默认限制为每分钟3000次请求）。
• 利用代码中已有的用户请求计数逻辑，在处理请求前增加用户侧限流，比如限制单用户每分钟最多发起5次请求，提前拦截避免触发OpenAI的限制：

  // 在请求处理初期添加
  const userFound = await User.findById(req?.user?.id);
  // 需调整User模型，添加requestTimestamps字段存储请求时间戳数组
  const recentRequests = userFound.requestTimestamps.filter(ts => Date.now() - ts < 60000);
  if (recentRequests.length >= 5) {
      return res.status(429).json({ message: '您的请求过于频繁，请1分钟后再试' });
  }
  // 更新时间戳数组
  userFound.requestTimestamps.push(Date.now());
  await userFound.save();
  

2. 实现请求重试机制 #

遇到429错误时，根据OpenAI返回的Retry-After响应头值延迟重试，可使用axios-retry插件简化实现：

• 安装依赖：npm install axios-retry
• 修改代码配置重试逻辑：

  const axios = require('axios');
  const axiosRetry = require('axios-retry');
  
  // 配置axios重试规则
  axiosRetry(axios, {
      retries: 3, // 最多重试3次
      retryDelay: (retryCount, error) => {
          // 优先使用响应头中的重试等待时间，否则按指数退避
          const retryAfter = error.response?.headers['retry-after'];
          return retryAfter ? parseInt(retryAfter) * 1000 : retryCount * 1000;
      },
      retryCondition: (error) => {
          // 仅对429错误进行重试
          return error.response?.status === 429;
      }
  });
  

3. 后端全局限流 #

使用express-rate-limit中间件对API请求做全局限流，避免同一IP短时间内发起过多请求：

• 安装依赖：npm install express-rate-limit
• 在路由中配置限流规则：

  const rateLimit = require('express-rate-limit');
  
  const openAILimiter = rateLimit({
      windowMs: 60 * 1000, // 1分钟时间窗口
      max: 10, // 同一IP最多允许10次请求
      message: { message: '请求过于频繁，请稍后再试' }
  });
  
  // 为OpenAI接口路由添加限流中间件
  router.post('/openai', openAILimiter, openAIController);
  

4. 优化错误处理逻辑 #

原代码直接抛出错误，改为针对429错误返回明确提示，避免前端收到模糊错误信息：

catch(error){
    console.log(error);
    if (error.response?.status === 429) {
        res.status(429).json({ message: '请求过于频繁，请稍后再试' });
    } else {
        res.status(500).json({ message: '服务器处理失败，请稍后再试' });
    }
}

5. 确认模型与端点匹配 #

当前使用的gpt-3.5-turbo-instruct模型对应/v1/completions端点是正确的，若后续切换为gpt-3.5-turbo模型，需改用/v1/chat/completions端点，避免因端点错误间接触发限制问题。

内容的提问来源于stack exchange，提问作者Ravindra