OpenAI GPT生成函数可设置的max_tokens最大值是多少?
GPT-4o-mini max_tokens 设置问题
- 测试设置
max_tokens为100_000、20_000均无法生效,仅10_000可正常运行 - 测试代码:
from openai import OpenAI client = OpenAI() messages = {"role": "user", "content": "Hello"} completion = client.chat.completions.create( model="gpt-4o-mini", messages=messages, max_tokens=10_000 ) print(completion.choices[0].message.content)
- 官方相关文档未明确标注该模型
max_tokens的最大可设置值
内容的提问来源于stack exchange,提问作者alvas
相关产品推荐
相关产品推荐

