Azure OpenAI GPT-4二次调用报错：API部署不存在求助

• 核对部署名称与API配置一致性
  确认第二次调用的deployment_name和首次完全一致，注意Azure部署名称区分大小写，拼写错误、大小写差异都会触发该报错。
• 验证API请求核心参数
  每次调用必须正确传入api_key、azure_endpoint、api_version，且参数值和首次调用完全匹配，尤其要确认azure_endpoint是对应GPT-4部署的资源端点，不要混用其他资源地址。
• 排查Azure资源状态与配额
  登录Azure门户检查：
  • GPT-4部署是否处于成功运行状态，无更新、暂停或删除操作；
  • 资源配额是否耗尽，除了每分钟Token限额，还要确认每日Token配额、并发请求数是否超出限制，累计配额耗尽也可能触发异常报错。
• 改用指数退避重试策略
  不要依赖固定60秒休眠，采用指数退避的重试机制处理暂时性异常，示例代码片段：

  import time
  from openai import AzureOpenAI
  
  client = AzureOpenAI(
      azure_endpoint="YOUR_ENDPOINT",
      api_key="YOUR_KEY",
      api_version="2024-02-15-preview"
  )
  
  def call_gpt4(prompt):
      max_retries = 3
      retry_delay = 10  # 初始重试间隔10秒
      for attempt in range(max_retries):
          try:
              response = client.chat.completions.create(
                  model="YOUR_DEPLOYMENT_NAME",
                  messages=[{"role": "user", "content": prompt}]
              )
              return response.choices[0].message.content
          except Exception as e:
              if "deployment does not exist" in str(e) and attempt < max_retries -1:
                  time.sleep(retry_delay)
                  retry_delay *= 2  # 指数退避
              else:
                  raise e
  

• 检查代码变量是否被污染
  确认首次调用后，部署名称、端点地址等核心变量是否被意外改写，比如函数内全局变量被修改，导致第二次调用参数错误。
• 确认API版本兼容性
  确保使用的api_version是Azure OpenAI支持的稳定版本，过时版本可能引发异常错误提示。

内容的提问来源于stack exchange，提问作者colab123