如何在Gemini API请求中添加maxOutputTokens参数
给Gemini API调用添加maxOutputTokens参数的方法
要给你的Gemini API请求添加maxOutputTokens参数,只需在请求的JSON数据中加入generationConfig配置项即可,具体修改如下:
- 在
data字典里新增generationConfig字段,该字段为字典类型,里面设置maxOutputTokens的具体数值(比如限制输出最多100个token)。 - 注意不同Gemini模型对
maxOutputTokens的上限要求不同,Gemini-pro的最大支持值为8192,按需设置即可。
修改后的完整代码:
import requests API_KEY = 'INPUT_API_KEY' API_URL = 'https://generativelanguage.googleapis.com/v1/models/gemini-pro:generateContent' def call_gemini_api(prompt): headers = { "Content-Type": "application/json", "x-goog-api-key": API_KEY, } data = { "contents": [ { "role": "model", "parts": [{"text": "You are AI"}] }, { "role": "user", "parts": [{"text": prompt}] } ], # 新增配置:设置输出token数量上限 "generationConfig": { "maxOutputTokens": 100 # 替换为你需要的token数量 } } response = requests.post(API_URL, headers=headers, json=data) return response.json() prompt = "Hello" response = call_gemini_api(prompt) print(response)
内容的提问来源于stack exchange,提问作者Newbie Boy
相关产品推荐
相关产品推荐

