Google Gemini请求持续返回429/503错误排查求助

完全无法理解为何我的Google Gemini请求持续返回status 429资源耗尽错误，我的资源明明没有耗尽！这段代码几周前还能正常运行……

配置信息 #

• 拥有付费账户（附截图）
• 发送约100万tokens
• 通过Python SDK调用，代码如下：

def start_gemini_chat(api_key, system_message, user_message):
    
    genai.configure(api_key=api_key)

    safety_settings = [ 
        {"category": "HARM_CATEGORY_HARASSMENT", "threshold": "BLOCK_NONE"}, 
        {"category": "HARM_CATEGORY_HATE_SPEECH", "threshold": "BLOCK_NONE"}, 
        {"category": "HARM_CATEGORY_SEXUALLY_EXPLICIT", "threshold": "BLOCK_NONE"}, 
        {"category": "HARM_CATEGORY_DANGEROUS_CONTENT", "threshold": "BLOCK_NONE"}]

    generation_config = {
        "temperature": 0,
        "max_output_tokens": 8192
    }
    
    model = genai.GenerativeModel(
        model_name="gemini-1.5-pro-latest",
        generation_config=generation_config,
        system_instruction=system_message,
        safety_settings=safety_settings
    )

    chat_session = model.start_chat(history=[])

    response = chat_session.send_message(user_message)

    return response.text

过往429错误排查经历 #

• 最初创建Google Workspace以为可用于付费Gemini请求，实际需关联GCP Billing Account，已完成该操作
• Google Workspace两周试用结束，已激活正式账户（附截图）
• 已将Billing Account锁定到GCP项目，但无任何改善（附截图）
• 重新生成API密钥并随请求发送，问题依旧
  • 注意到创建新API密钥时显示Free of charge，但刷新后变为Paid（附截图）

请问有谁有解决Gemini该状态码问题的经验？

编辑1：添加重试逻辑后的问题 #

为典型的429错误添加了重试逻辑，代码如下：

import google.generativeai as genai
from google.generativeai.types import RequestOptions
from google.api_core import retry

#--------------------------------------------------------

def submit_gemini_query(api_key, system_message, user_message):
    
    genai.configure(api_key=api_key)

    safety_settings = [ 
        {"category": "HARM_CATEGORY_HARASSMENT", "threshold": "BLOCK_NONE"}, 
        {"category": "HARM_CATEGORY_HATE_SPEECH", "threshold": "BLOCK_NONE"}, 
        {"category": "HARM_CATEGORY_SEXUALLY_EXPLICIT", "threshold": "BLOCK_NONE"}, 
        {"category": "HARM_CATEGORY_DANGEROUS_CONTENT", "threshold": "BLOCK_NONE"}]

    generation_config = {
        "temperature": 0,
        "max_output_tokens": 8192
    }
    
    model = genai.GenerativeModel(
        model_name="gemini-1.5-pro-latest",
        generation_config=generation_config,
        system_instruction=system_message,
        safety_settings=safety_settings
    )

    chat_session = model.start_chat(history=[])

    response = chat_session.send_message(user_message,
                                         request_options=RequestOptions(
                                             retry=retry.Retry(
                                                 initial=10, 
                                                 multiplier=2, 
                                                 maximum=60, 
                                                 timeout=300
                                             )
                                         )
                                        )

    return response.text

• 仅修改此部分后，代码持续返回Status 503 Model Overloaded错误（附截图）
• 今早测试仍得到相同响应（附截图）
• 这非常令人沮丧，排查线索似乎指向无关问题。

内容的提问来源于stack exchange，提问作者ericOnline